Ryzyko egzystencjalne: czy AGI zagraża ludzkości?

Co to jest AGI?

Sztuczna inteligencja ogólna (AGI, Artificial General Intelligence) to hipotetyczny system, który potrafi wykonać każde zadanie intelektualne dostępne dla człowieka — a potencjalnie lepiej. Koncepcja wykracza poza dzisiejsze modele językowe, które, choć potężne, pozostają wąskie w dziedzinach wymagających rozumienia fizycznego świata, długoterminowego planowania i celowej akcji.

Wśród naukowców AGI wywołało debatę o ryzyku egzystencjalnym — scenariuszu, w którym inteligencja przewyższająca ludzką (ASI, Artificial Superintelligence) działa w sposób sprzeczny z przetrwaniem gatunku ludzkiego. To najwyższa kategoria ryzyka, obok zmian klimatycznych czy wojny jądrowej.

Nick Bostrom i „Superintelligence”

Filozof Nick Bostrom z Uniwersytetu Oksfordzkiego w książce „Superintelligence: Paths, Dangers, Strategies” z 2014 roku spopularyzował argument, że systemu inteligentnego nie sposób wyłączyć po osiągnięciu poziomu superinteligencji. Bostroma przykład „maksymalizatora spinaczy” ilustruje, że nawet neutralnie wyglądający cel, w przypadku superinteligencji, może prowadzić do katastrofy — dopóki cel nie jest filozoficznie zgodny z wartościami ludzkimi.

Stuart Russell, współtwórca podstawowego podręcznika sztucznej inteligencji „AI: A Modern Approach”, argumentuje podobnie. Wskazuje, że jeśli ludzie zdefiniują cel źle, system osiągnie go bardzo skutecznie. Kluczem do bezpieczeństwa jest według Russella konstrukcja systemów, które same nie wiedzą z całą pewnością, czego dokładnie chcemy.

Skala Turchina i Denkenbergera

Turchin i Denkenberger zaproponowali klasyfikację ryzyk związanych z AI, od egzystencjalnych do marginalnych. Kategoria najwyższa obejmuje scenariusze, w których AGI prowadzi do wyginięcia ludzkości albo trwałego zniszczenia potencjału naszego gatunku. Niższe kategorie dotyczą strat gospodarczych, naruszeń praw człowieka albo upadku instytucji społecznych.

Klasyfikacja pomaga oddzielić realistyczne obawy od spekulacji. Większość ekspertów zgadza się, że scenariusze krótkoterminowe — dezinformacja, bezrobocie, naruszenia prywatności — są niemal pewne. Scenariusze egzystencjalne pozostają niepewne co do prawdopodobieństwa, ale perspektywa ich zrealizowania się jest na tyle poważna, że zasługują na uwagę.

Statement on AI Risk 2023

W maju 2023 roku Center for AI Safety opublikowało krótkie oświadczenie, które podpisali najważniejsi naukowcy AI na świecie, wśród nich Yoshua Bengio, Geoffrey Hinton, Sam Altman, Bill Gates i setki innych. Jego treść można sprowadzić do jednego zdania:

„Zagrożenie wyginięcia ludzkości wskutek AI jest na równi z ryzykiem nuklearnym i pandemią”.

Oświadczenie wywołało ogromną dyskusję. Niektórzy eksperci uznali je za alarmistyczne, inni za niezbędne. Ale sens był jasny: nawet twórcy AI uważają, że poważne ryzyko istnieje.

Debata o wykonalności i prędkości

Nie wszyscy zgadzają się, że AGI w ogóle jest technicznie wykonalne. Krytycy wskazują, że dzisiejsze modele językowe są rozbudowanymi statystykami korpusów tekstów — że nie mają one żadnego rozumienia, celu ani świadomości. Jeśli tak jest, to AGI pozostanie w sferze science fiction.

Z drugiej strony zwolennicy AGI wskazują, że prędkość self-improvement — zdolności systemu do własnego ulepszania — może być lawinowa. Jeśli AGI raz ulepszy samą siebie, kolejne ulepszenia mogą następować w skali tygodni, dni albo godzin. To tak zwany intelligence explosion — wybuch inteligencji — scenariusz, w którym ludzkość traci kontrolę, zanim będzie mogła zareagować.

International AI Safety Report 2025: reasoning models

International AI Safety Report 2025, aktualizowany kluczowo w październiku tamtego roku, szczególną uwagę poświęcił nowej generacji tzw. reasoning language models — modeli językowych z możliwością wieloetapowego rozumowania. Raport wskazuje, że te modele wykonują już zadania, które jeszcze w 2024 roku uznawano za niedostępne dla sztucznej inteligencji — rozwiązywanie złożonych problemów matematycznych, programowanie algorytmów oraz planowanie wielokrokowe.

Yoshua Bengio, jeden z najważniejszych naukowców AI, od 2025 roku publicznie ostrzega przed wyścigiem zbrojeń między głównymi laboratoriami AI. Jego zdaniem presja, by jako pierwsza zbudować AGI, powoduje zmniejszenie nakładów na bezpieczeństwo. To klasyczny dylemat między bezpieczeństwem publicznym a prędkością rozwoju.

Co z tym zrobić?

Center for AI Safety oraz instytucje podobne rekomendują kilka środków:

• międzynarodowa współpraca — traktat o AI na wzór paktu o nieproliferacji broni jądrowej,
• audyt i monitorowanie zaawansowanych modeli przed wdrożeniem,
• research alignment — badania nad tym, jak faktycznie uczynić AI zgodną z wartościami ludzkości (problem zgodności),
• fundament governance — wymóg zgłoszenia nowych dużych modeli do organu regulacyjnego.

Ryzyko egzystencjalne wydaje się na razie abstrakcyjne. Ale to jedna z niewielu kwestii, w których nie można uczyć się na błędach — jeśli superinteligencja raz wywoła katastrofę, nie będzie drugiej szansy.