Algorytm przy czerwonym guziku: AI w jądrowym dowodzeniu
System, który nie zna przerwy
Jądrowe systemy dowodzenia, kontroli i łączności, znane w literaturze pod skrótem NC3, to złożona architektura łącząca satelity wczesnego ostrzegania, radary, centra decyzyjne i kanały komunikacji z siłami strategicznymi. Federacja Naukowców Amerykańskich opisuje amerykański NC3 jako „system systemów” liczący ponad dwieście komponentów. To właśnie ta warstwa ma wykryć atak, ocenić jego skalę i umożliwić prezydentowi decyzję o odpowiedzi w czasie liczonym od kilku minut do kilku godzin.
Prosta automatyzacja działa tam już od dziesięcioleci — czujniki radarowe i podczerwone analizują dane strumieniowo, a w Stanach Zjednoczonych o ataku mają niezależnie orzec dwa osobne systemy. Spór dotyczy tego, co zmieni nowa generacja uczenia maszynowego, gdy trafi do wczesnego ostrzegania i narzędzi wspomagających decyzje. Dowódca STRATCOM generał Anthony Cotton deklarował publicznie eksplorowanie wszystkich możliwych technologii modernizacji NC3, w tym zaawansowanej analityki zdolnej scalać dane i przyspieszać wymianę informacji z sojusznikami.
Trzy ryzyka wskazane przez analityków
Federacja Naukowców Amerykańskich w analizie z czerwca 2025 roku wymienia trzy grupy zagrożeń. Pierwsza to konfabulacje, czyli pewność siebie generatywnych modeli przy treściach fałszywych — w kontekście jądrowym fałszywa sygnatura ataku wygenerowana z przekonaniem może być bardziej niebezpieczna niż brak danych. Druga grupa to błąd automatyzacji: człowiek nadmiernie ufa rekomendacji maszyny i przestaje ją kwestionować, przesuwając się z roli decydenta do roli obserwatora własnej bezradności.
Trzecia grupa dotyczy bezpieczeństwa informacji. Każdy model wbudowany w NC3 rozszerza powierzchnię cyberataku: zatrute dane treningowe mogą zostawić ukryte furtki, a iniekcja poleceń albo przykłady adwersarskie potrafią przejąć narzędzia decyzyjne lub zniekształcić analizy ostrzegawcze. Badacze podkreślają też, że rosnąca złożoność modeli utrudnia debugowanie — błędy mogą pozostawać niewidoczne latami, aż nadejdzie moment, w którym system będzie musiał zadziałać idealnie.
Człowiek w pętli — na razie
Deklaracje mocarstw są zgodne co do zasady: decyzja o użyciu broni jądrowej ma należeć do człowieka. Najnowsze oświadczenie o stanie STRATCOM cytowane w opracowaniu Institute for Security and Technology stanowi wprost, że sztuczna inteligencja pozostanie podporządkowana ludzkiej odpowiedzialności, a we wszystkich przypadkach dotyczących inicjowania i kończenia użycia broni jądrowej utrzymany zostanie człowiek w pętli decyzyjnej. Podobne stanowiska ogłasza większość państw posiadających broń jądrową.
Zastrzeżenie formułuje European Leadership Network w analizie z lutego 2025 roku: nie wszystkie te państwa zadeklarowały to jasno, a nawet jeśli tak — nie istnieje sposób zweryfikowania takich zapowiedzi. Analitycy dodają drugi problem: wpływ na decyzje jądrowe mogą mieć systemy działające poza samym NC3, na przykład platformy wywiadowcze, których awaria lub manipulacja przenosi się na ocenę sytuacji strategicznej. Próg bezpieczeństwa jest jeden — awaria sztucznej inteligencji nie powinna nigdy prowadzić do skutków katastrofalnych.
Wyścig, który nie znosi hamulców
Raport brytyjskiego Centre for the Study of Existential Risk wskazuje na mechanizm samonapędzający: presja konkurencji między mocarstwami może skłaniać do pomijania testów, walidacji i procedur zapewniania jakości. W wyścigu o szybkość decyzji automatyzacja „wyprzedzająco deleguje” uprawnienia na maszyny, które z definicji są niedoskonałe. Paradoksalnie autorzy raportu zauważają, że ludzkie słabości — wahanie, ostrożność, strach — przez blisko wiek pomagały unikać niezamierzonego użycia broni jądrowej.
Przeciwdziałanie ma kilka filarów. Po pierwsze ramy oceny ryzyka dla każdej integracji modelu z systemem strategicznym, postulowane przez FAS z udziałem STRATCOM i agencji badawczych. Po drugie ćwiczenia i gry wojenne z udziałem cywilnych twórców technologii, jakie prowadzi Institute for Security and Technology. Po trzecie środki budowy zaufania między państwami: dialog o czerwonych liniach dotyczących integracji sztucznej inteligencji z NC3, którego brak samego w sobie uznawany jest za czynnik destabilizujący.
Konkluzja
Sztuczna inteligencja wchodzi do jądrowego dowodzenia bocznymi drzwiami — przez czujniki, analitykę i narzędzia wspomagające — a nie przez drzwi frontowe decyzji o odpaleniu. Ta różnica bywa mylona w publicznej debacie, ale nie zmienia istoty ryzyka: błąd algorytmu w warstwie wspierającej dociera do decydenta w formie wiarygodnie wyglądającego wniosku. O ile świat nauczył się żyć z automatycznymi czujnikami zimnej wojny, o tle modele, które potrafią konfabulować i podlegać manipulacji adwersarzem, wprowadzają do równania zmienną jakościowo nową. Granica, której pilnują eksperci, jest prosta do sformułowania i trudna do obrony w praktyce: maszyna może informować, ale nigdy decydować.
