Prawo do ostrzeżenia: sygnaliści z laboratoriów AI
List, którego nie dało się zignorować
Czwartego czerwca 2024 roku ukazał się list otwarty pod tytułem „A right to warn about advanced artificial intelligence”, podpisany przez trzynaście osób — obecnych i byłych pracowników OpenAI, Anthropic oraz Google DeepMind. Jak relacjonował The Washington Post, siedmioro sygnatariuszy ujawniło nazwiska, a sześcioro obecnych wówczas pracowników OpenAI pozostało anonimowych, co samo w sobie najlepiej obrazuje klimat panujący w branży. List wsparli najwybitniejsi badacze dziedziny, w tym Yoshua Bengio i Geoffrey Hinton.
Sygnaliści napisali wprost, że firmy tworzące najbardziej zaawansowaną sztuczną inteligencję mają silne bodźce finansowe, by ograniczać niezależną kontrolę nad własnymi produktami. Dopóki nadzór państwowy jest szczątkowy, jedynymi osobami mogącymi pociągnąć korporacje do odpowiedzialności są ich własni pracownicy. Tymczasem szerokie umowy o poufności blokują im możliwość ostrzegania — poza samymi firmami, które być może właśnie zawodzą w rozwiązywaniu tych problemów.
Cztery postulaty i jedna luka prawna
Autorzy listu sformułowali cztery zasady, do których chcieli zobowiązać czołowe laboratoria: zakaz zawierania i egzekwowania umów zabraniających krytyki firmy w kwestiach ryzyka, utworzenie anonimowego kanału zgłaszania obaw do zarządu lub regulatorów, wspieranie kultury otwartej krytyki oraz rezygnacja z odwetu wobec pracowników, którzy po wyczerpaniu innych dróg upublicznią informacje o zagrożeniach. Postulaty brzmią skromnie, bo dotyczą tego, co w zdrowych organizacjach uchodzi za standard — a jednak wymagały publicznego apelu.
Za tą skromnością stoi poważna luka prawna. Zwykłe mechanizmy ochrony sygnalistów koncentrują się na nielegalnych działaniach, podczas gdy wiele ryzyk związanych ze sztuczną inteligencją nie jest w ogóle uregulowanych. Pracownik, który odkryje, że model łatwo obejść zabezpieczenia, często nie narusza żadnego przepisu, którym firma mogłaby się martwić — a mimo to boi się mówić, bo grożą mu konsekwencje cywilnoprawne.
Umowy ciszy i utracone akcje
Kontekstem listu był głośny materiał serwisu Vox z maja 2024 roku, opisujący dokumenty odejściowe OpenAI. Odchodzącym pracownikom przedstawiano tam umowy o zakazie oczerniania, których odrzucenie miało rzekomo grozić utratą nabytych udziałów w firmie — stawka wielokrotnie przewyższająca pensję. Zabronione było nawet ujawnienie samego faktu podpisania dokumentu. Szef OpenAI Sam Altman publicznie przeprosił, zapewniając, że klauzula nigdy nie została zastosowana i zostanie usunięta, a firma rozesłała później wewnętrzny komunikat o niewymuszaniu zapisów o zakazie oczerniania.
Skala problemu wyszła na jaw na dobre w lipcu 2024 roku. Jak podała agencja Associated Press, anonimowi sygnaliści złożyli do amerykańskiej komisji papierów wartościowych formalną skargę wraz z listem do jej szefa, żądając śledztwa w sprawie „nielegalnie restrykcyjnych” umów poufności OpenAI. Prawnicy reprezentujący sygnalistów wskazali co najmniej cztery zarzuty: klauzule bez wyjątku dla zgłoszeń do regulatora, wymóg wcześniejszej zgody firmy na kontakt z władzami federalnymi, obowiązek zachowania w tajemnicy samych umów oraz zrzekanie się przez pracowników nagród przewidzianych w prawie za donosy.
Impuls dla ustawodawców
Sprawa nie została zamknięta w sferze mediów. W sierpniu 2024 roku senator Charles Grassley, jeden z czołowych orędowników ochrony sygnalistów w Senacie, wystosował do Altmana list z pytaniami o zmianę treści umów i liczbę próśb pracowników o zgodę na kontakt z władzami, wyznaczając termin na odpowiedź. Po nagłośnieniu skargi grupa senatorów zażądała ponadto od OpenAI szczegółowych informacji o działaniach na rzecz bezpieczeństwa modeli. Temat wrócił też podczas przesłuchań w Senacie, gdzie parlamentarzyści obu partii mówili o potrzebie dedykowanych mechanizmów ochrony dla branży sztucznej inteligencji.
Dla zwykłego użytkownika te spory nie są abstrakcją. To właśnie od wewnątrz firm wiedza o realnych słabościach modeli — manipulacji, podatności na nadużycia, ukrytych skłonnościach systemów — dociera do opinii publicznej najpóźniej i w najbardziej okrojonej formie. Gdy pracownikowi wolno mówić tylko to, co pozwoli pracodawca, społeczeństwo uczy się o ryzykach technologii dopiero po ich materializacji.
Jak wygląda droga naprzód
Pracownik laboratorium AI, który dziś odkrywa niebezpieczną praktykę, ma kilka opcji: zgłoszenie wewnętrzne — najmniej bezpieczne, anonimową skargę do amerykańskiego regulatora finansowego chronioną ustawą Dodd-Frank albo kontakt z dziennikarzem, jeśli umowa na to pozwala. Firmy mogłyby zaufanie odbudować prosto: publikować wzory umów odejściowych bez klauzul milczenia, prowadzić anonimowe kanały zgłoszeń z dostępem do rady nadzorczej i deklarować wprost zakaz odwetu. Kilka laboratorium ogłosiło takie zmiany pod presją wydarzeń z 2024 roku, choć pozostaje to dobrowolna deklaracja, nie prawem.
Historia listu „prawo do ostrzeżenia” pokazuje dwie rzeczy jednocześnie. Że branża budująca technologie o globalnym znaczeniu potrafiła latami działać przy umowach ciszy sięgających majątku osobistego pracowników. Ale też że głos pojedynczych ludzi — naukowców gotowych poświęcić karierę i udziały — potrafi uruchomić śledztwa regulatora, listy senatorów i publiczną debatę. Ochrona sygnalistów nie jest fanaberią pesymistów: jest ostatnim czujnikiem dymu w pomieszczeniu, którego nikt inny nie monitoruje.
