Hinton: bezpieczeństwo AI wymaga reguł jak dla leków — dobra wola firm nie wystarczy
Geoffrey Hinton odszedł z Google w 2023 roku, mówiąc wprost, że chce ostrzegać przed zagrożeniami ze strony sztucznej inteligencji bez ograniczeń pracodawcy. Rok później otrzymał Nagrodę Nobla z dziedziny fizyki za prace, które stały się fundamentem dzisiejszych modeli językowych. Człowiek, który pomógł zbudować tę technologię, jest dziś jednym z jej najkonsekwentniejszych krytyków — a jego najnowszy apel dotyczy nie filozofii, lecz prozaicznej procedury: Hinton powiedział w wywiadzie dla CNN, że świat potrzebuje reguł wzorowanych na amerykańskiej agencji leków (FDA), a nie dobrowolnych standardów branżowych. Wielkie laboratoria, jego zdaniem, deklarują chęć regulacji, po czym sprzeciwiają się każdej konkretnej regule.
Trzy ryzyka, które wymienia Hinton
W wywiadzie dla CNN Hinton uporządkował swoje ostrzeżenia w trzy kategorie. Pierwsze to złe użycie technologii przez ludzi: cyberataki i broń biologiczna przygotowywane z udziałem sztucznej inteligencji. Drugie to szkody z zaniedbania — systemy wypuszczane na rynek bez rzetelnych testów, które szkodzą, bo nikt sprawdził, jak zachowają się w trudnych sytuacjach. Trzecie, najpoważniejsze w jego ocenie, to przejęcie kontroli przez same systemy. Hinton wskazał przy tym na mechanizm: autonomiczne agenty muszą umieć wyznaczać cele pośrednie — jak podróżny, który leci na lotnisko, by dotrzeć do Europy — a sprytne agenty szybko uczą się celu pośredniego, jakim jest przetrwanie.
To nie są tezy, które Hinton wymyślił na potrzeby wywiadu. Ostrzegał o nich od momentu odejścia z Google, a przypominał je w kolejnych rozmowach — między innymi w wywiadzie dla podcastu Big Technology, w którym mówił także o tym, że firmy budujące te systemy nie mogą zgodnie z prawem stawiać bezpieczeństwa ponad obowiązkiem wobec akcjonariuszy.
Dlaczego dobra wola nie wystarcza
Argument Hintona wymierza jest w samorządność branży. Wielkie laboratoria — OpenAI, Google DeepMind, Anthropic — publikują polityki użytkowania, raporty o testach i deklaracje ostrożności, a jednocześnie, jak zauważa Hinton, sprzeciwiają się konkretnym regułom, które ograniczałyby rozwój. W jego ocenie to nie jest złośliwość, lecz logika rynku: firma, która sama się ograniczy, przegrywa wyścig z tą, która tego nie zrobi.
Na nastroje społeczne powołał się sam reporter CNN: sondaże pokazują, że większość Amerykanów obawia się sztucznej inteligencji bardziej, niż się nią fascynuje, i oczekuje większego nadzoru ze strony władz federalnych. Deklaracje branży i nastroje odbiorców mówią więc to samo — a mimo to wiążące regulacje wciąż nie powstały.
Historia ostrzeżeń Hintona sięga dalej wstecz. W 2023 roku setki badaczy i szefów wiodących laboratoriów — w tym sam Hinton, a także szefowie OpenAI, Google DeepMind i Anthropic — podpisało oświadczenie ośrodka Center for AI Safety: „Łagodzenie ryzyka wyginięcia z powodu sztucznej inteligencji powinno być globalnym priorytetem, na równi z innymi ryzykami o skali społecznej, takimi jak pandemie i wojna nuklearna”. Ostrzeżenie zebrało najbardziej autorytatywne podpisy, jakimi dysponuje branża — a jednak, jak konstatują komentatorzy, samo ostrzeżenie nie zmieniło bodźców rynkowych. Trzy lata później szefowie tych samych firm apelują do Rady Bezpieczeństwa ONZ o międzynarodowe zabezpieczenia, a Hinton odpowiada, że apel bez wiążącej władzy państwowej nie wystarczy.
Coraz krótszy kalendarz
Drugi wątek wypowiedzi Hintona dotyczy czasu. W 2023 roku oceniał, że ludzkość ma na uporządkowanie tej technologii od dwudziestu do pięćdziesięciu lat; dziś mówi o pięciu–dziesięciu. Prawie wszyscy eksperci, jego zdaniem, są zgodni co do jednego: jeśli rozwój potrwa w obecnym tempie, powstaną systemy sprytniejsze od ludzi — a postępy przychodzą szybciej, niż ktokolwiek oczekiwał. Hinton nie podaje dokładnej daty kryzysu i sam przyznaje, że nikt nie umie oszacować prawdopodobieństwa scenariusza najgorszego. Wniosek, który z tego wyciąga, jest prozaiczny: rozwijać takie systemy bez zrozumienia, jak żyć obok nich, byłoby nierozsądne.
Co to znaczy dla użytkownika
Debata o regulacji może wydawać się odległa, ale jej brak ma codzienne konsekwencje. Modele wypuszczane bez dowodu bezpieczeństwa częściej zmyślają fakty, łatwiej ulegają manipulacji i służą oszustom — od fałszywych profili po wyłudzanie danych. Analogia z lekami, o którą apeluje Hinton, jest czytelna: żaden lek nie trafia do apteki bez badań, bo koszt błędu jest zbyt wysoki. W przypadku modeli językowych koszt błędu rozkłada się na miliony użytkowników — i dlatego, jego zdaniem, dowód bezpieczeństwa przed wprowadzeniem na rynek powinien być regułą, a nie dobrą wolą producenta.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
