Fałszywi sygnatariusze: list w sprawie pauzy w badaniach AI od samego początku był bałaganiarski
W marcu 2023 roku Future of Life Institute — instytut finansowany głównie przez fundację Elona Muska — opublikował list wzywający wszystkie laboratoria AI do natychmiastowej, co najmniej półrocznej pauzy w trenowaniu systemów sprytniejszych od GPT-4. Podpisało go ponad trzydzieści tysięcy osób, wśród nich Elon Musk, współzałożyciel Apple Steve Wozniak, historyk Yuval Noah Harari oraz badacze tacy jak Yoshua Bengio i Stuart Russell. List wywołał burzę — ale nie tylko ze względu na treść. Jak opisali reporterzy „The Guardian” i „Vice”, od samego początku był bałaganiarski: zawierał fałszywe sygnatury, badacze cytowani w liście odrzucali sposób, w jaki użyto ich prac, a część sygnatariuszy wycofała wsparcie.
Fałszywe podpisy pod pismem o zagrożeniach
Instytut deklarował, że każdą sygnaturę weryfikuje „poprzez bezpośrednią komunikację”. Mimo to na liście pojawiły się fałszywe podpisy — w tym osoby podszywające się pod szefa OpenAI Sama Altmana, prezydenta Chin Xi Jinpinga oraz szefa działu naukowego w Meta, Yanna LeCuna. Instytut oczyszczał listę i wstrzymał wyświetlanie nowych sygnatur, dopóki weryfikuje kolejne osoby. Ironia losu chciała, że pismo ostrzegające przed niekontrolowaną technologią samo stało się przykładem problemu, przed którym przestrzega: treść w sieci rozpowszechnia się szybciej, niż można ją zweryfikować. Nikt z OpenAI — firmy rozwijającej i sprzedającej modele z serii GPT — nie podpisał listu.
Badacze odrzucają użycie swoich prac
Drugi problem był poważniejszy: list cytował dwanaście prac badawczych jako dowód, że systemy o „ludzkiej konkurencyjności” stwarzają głębokie ryzyka. Część autorów tych prac sprzeciwiała się takiemu użyciu. Margaret Mitchell — wcześniej odpowiedzialna za badania nad etyką AI w Google, później główna badaczka etyki w Hugging Face — powiedziała Reutersowi, że nie jest jasne, co dokładnie znaczy „sprytniejsze od GPT-4”. Jej współautorka Emily Bender oceniła część tez listu jako „unhinged” — odjechane. Timnit Gebru i inni zarzucali liście sensacyjność i pomijanie realnych, obecnych szkód na rzecz futurystycznych scenariuszy science fiction. Shiri Dori-Hacohen, badaczka z University of Connecticut, wytknęła Muskowi, że po przejęciu X (dawniego Twittera) dezinformacja na platformie wzrosła — i że to bezpośrednio utrudnia prace jej laboratorium nad dezinformacją.
Dlaczego ta historia ma znaczenie
List był dziełem instytutu, którego priorytety krytycy opisywali jako przesunięte w stronę apokaliptycznych scenariuszy kosztem problemów obecnych — dyskryminacji algorytmicznej, inwigilacji, oszustw. Sam spór o pauzę pokazał coś więcej: nawet pismo podpisane przez tysiące osób, w tym szefów największych firm, nie potrafiło zadbać o podstawową weryfikację własnych sygnatur. W epoce generatywnej sztucznej inteligencji ten problem nabiera nowej skali — fałszywe sygnatury, zdjęcia i oświadczenia generuje się dziś w minuty, a pisma processowe i listy otwarte rozpowszechniają się szybciej, niż można sprawdzić, kto naprawdę stoi za treścią.
Warto przy tym pamiętać, że sam pomysł pauzy nie zniknął. List i jego burzliwe losy stały się punktem odniesienia dla kolejnych apeli — od ostrzeżeń Center for AI Safety po deklaracje szefów laboratoriów przed Radą Bezpieczeństwa ONZ. Ale lekcja z 2023 roku pozostaje aktualna: wiarygodność apelu o odpowiedzialność zależy od rzetelności samego apelu — od sprawdzenia, kto podpisał, co cytowano i czy cytowani się zgadzają. List, który tego nie zrobił, zapisał się w historii branży jako przykład tego, jak nie należy ostrzegać przed zagrożeniami.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
