Autonomia AI w wojsku — gdzie kończy się ludzka kontrola

Czym jest autonomia wojskowa AI

Autonomia AI w wojsku oznacza zdolność systemów sztucznej inteligencji do wykonywania zadań bojowych lub wspierających działania zbrojne bez ciągłej interwencji operatora ludzkiego. Mówimy tu zarówno o systemach doradczych — analizujących dane rozpoznania, sugerujących cele, przewidujących ruchy przeciwnika — jak i o systemach bojowych, w których AI decyduje o wyeliminowaniu celu. Zgodnie z klasyfikacją North Atlantic Treaty Organization (NATO), systemy podzielone są na trzy poziomy: „human-in-the-loop” (człowiek w pętli — każda decyzja bojowa wymaga zgody operatora), „human-on-the-loop” (człowiek nad pętlą — system działa autonomicznie, ale człowiek może przerwać działanie) i „human-out-of-the-loop” (system w pełni autonomiczny).

Obecna dyskusja staje się coraz bardziej gorąca, gdyż przenosi się z teorii do praktyki. Raport Stockholm International Peace Research Institute (SIPRI) z 2025 roku wskazuje, że co najmniej 12 państw dysponuje lub testuje systemy uzbrojone pełniące funkcję autonomiczną w stopniu powyżej poziomu 2, w tym Stany Zjednoczone, Chiny, Izrael, Rosja, Korea Południowa i Turcja. Konwencja ONZ o zakazie niektórych konwencjonalnych broni z 1980 roku (“Convention on Certain Conventional Weapons”, CCW) i odłam Forum Grupy Rządowych Ekspertów na temat Lethal Autonomous Weapons Systems (LAWS) od ponad dekady debatuje nad regulacją, nie osiągając wiążącego porozumienia.

Przykłady realne: od Kargu-2 do walki morskiej

Najbardziej znanym incydentem wykorzystania autonomicznego systemu zbrojnego jest użycie dronów Kargu-2 produkcji tureckiej firmy STM podczas konfliktu w Libii w 2020 roku. Raport ekspertów ONZ ds. embarga na Libię wskazał, że drony Kargu-2 zostały zaprogramowane tak, by same atakowały cele (retreating logistics convoys) bez dalszej koordynacji z operatorem ludzkim. Choć producent zaprzecza pełnej autonomii, dokument ONZ stwierdził, że był to pierwszy przypadek użycia systemu autonomicznego z potencjalnie śmiercionośnym skutkiem. Przekroczył w ten sposób debatę z teoretycznej w realną.

Innym przykładem jest amerykański program Replicator ogłoszony w 2023 roku — zakłada on rozmieszczenie tysięcy autonomicznych dronów morskich, powietrznych i naziemnych, które miałyby operować ławicowo w basenie Indo-Pacyfiku. Na poziomie konwencjonalnym, Izrael użył systemu „Lavender” i „Gospel” — narzędzia AI służące odpowiednio do identyfikacji celów osobowych i wyboru celów budynkowych — co zostało opisane w śledztwie „The Guardian” i +972 Magazine w 2024 roku. Raporty te określają, że lavender na początku wojny w Strefie Gazy wskazywał cele z dopuszczalnym błędem 10%, co w praktyce oznacza, że co dziesiąty wskazany był przypadkowym cywilem.

Mechanizmy: jak AI podejmuje decyzje

Decyzja AI w systemie bojowym zachodzi w kilku etapach:

1. Rozpoznanie — systemy IoT, satelity, drony rozpoznawcze podają dane wejściowe (obraz, radar, sygnały radiowe). Model konwolucyjny identyfikuje obiekty, np. pojazdy, osoby, typy uzbrojenia.
2. Identyfikacja celu — algorytm porównuje wzorce z bazą sygnatur, przypisując kategorię (przyjaciel / wróg / cywil). Wiarygodność rozpoznania zależy od jakości danych treningowych, które często są stronnicze — zawężeń wynikających z kontekstu konfliktu.
3. Kalkulacja ryzyka — model oblicza współczynnik collateral damage (postronne straty), porównując z progami ustalonymi przez dowództwo. Jeśli wynik jest poniżej progu, system rekomenduje atak.
4. Decyzja — w systemach z człowiekiem w pętli, operator zatwierdza lub odrzuca. W systemach autonomicznych, system wykonuje atak, logując decyzję w systemie dla audytu.

Spoistość tej sekwencji zależy od wielu czynników. Jeśli dane rozpoznania są niepewne — chmura zasłania celu, oświetlenie jest nieodpowiednie, obiekt wygląda inaczej niż w bazie — model możeának błędnie zaklasyfikować cel. W erze cyfrowego kamuflażu i dezinformacji obrazowej, cel militarny może zostać celowo zasłonięty obrazowo kształtem cywilnym.

Konsekwencje: prawa międzynarodowe i etyka

Pierwszy problem jest prawny: prawo międzynarodowe humanitarne (International Humanitarian Law, IHL) — Genewa i protokoły dodatkowe — wymaga rozróżnienia między celami wojskowymi a osobami cywilnymi (zasada distinction) oraz proporcjonalności ataku. System autonomiczny ma trudności z ocenami kontekstualnymi typu „urzędowy budynek szkoły wykorzystywany jako punkt dowodzenia”. AI nie ocenia intencji — zauważa jedynie obiekt. W rezultacie, atak może być technicznie legalny, ale moralnie problematyczny.

Drugi problem jest odpowiedzialnościowy: kto odpowiada za błąd autonomicznego drona? Operator, który zatwierdził decyzję? Dowódca, który ustawił parametry? Producent algorytmu? Programista, który tworzył bazę danych treningowych? Tzw. „responsibility gap” jest jednym z najczęściej wskazywanych zarzutów w dyskusji nad LAWS. Jeśli nie można przypisać odpowiedzialności konkretnej osobie, popełnione naruszenia prawa humanitarnego nie mogą być ścigane — co jest kluczowe dla międzynarodowego systemu sprawiedliwości.

Trzecia kwestia dotyczy eskalacji. Autonomiczne systemy mogą zwiększyć ryzyko nieintencjonalnej eskalacji konfliktu, zwłaszcza gdy działania ai-vs-ai (np. algorytm z jednej strony reaguje na ruch algorytmu z drugiej) mogą zostać odczytane jako akt zbrojny. Tak zwana flash crash w militarnym odpowiedniku — gdzie algorytmy decydują o ataku w milisekundach — jest realną obawą studiów wojny.

Regulacje i kierunki

Unia Europejska w AI Act (weszła w życie w sierpniu 2024 r.) nie obejmuje systemów wojskowych (art. 2 wyłącza AI używane do celów wojskowych). Niemniej Komisja Europejska opublikowała w styczniu 2025 r. „Komunikat w sprawie运用 AI w dziedzinie obronności”, w którym zaleca wytyczne dla państw członkowskich dotyczące zasad używania AI w operacjach wojskowych, w tym obowiązkowego zatrzymania człowieka w pętli dla systemów śmiercionośnych.

Rada Europy kieruje obecnie pracami nad protokółem dodatkowym do konwencji o ochronie osób w odniesieniu do automatycznego przetwarzania danych osobowych (Konwencja 108+), który mógłby wprowadzać zakaz w pełni autonomicznych systemów śmiercionośnych. Inne inicjatywy obejmują kampanię „Stop Killer Robots”, koalicję ponad 200 organizacji pozarządowych, w tym Amnesty International i Human Rights Watch, postulującą prawnie wiążący traktat zakazujący AWS.

What next: konieczność architektury zaufania

Najbliższe lata będą krytyczne. Decyzje o autonomii AI w wojsku nie będą już czysto techniczne — będą decyzjami o architekturze zaufania międzynarodowego. Jeśli państwa nieporozumieją ograniczenie autonomii jako wspólną konieczność, dojdzie do wyścigu zbrojeń algorytmicznych, w którym wygrana oznacza zdolność do niszczenia celów szybciej niż przeciwnik — ale przegrana może oznaczać katastrofę humanitarną w konflikcie zaczepnym.

Wymagana jest konwencja międzynarodowa, która ustali:

• definicję Lethal Autonomous Weapons System i jej granice;
• obowiązek zatrzymania człowieka w pętli dla systemów śmiercionośnych;
• odpowiedzialność państwa za działania autonomicznych systemów;
• mechanizm weryfikacji i audytu algorytmów bojowych;
• zakaz użycia autonomicznych systemów w sytuacji asymetrycznej i w strefach gęsto zaludnionych.

Bez takiej architektury, autonomia wojskowa AI stanie się nie kontrolowanym wyścigiem ku nowemu Theatre risk — przypominającym wyścig nuklearnego niepokonanego przemawiania. Tym razem jednak decyzja o wciśnięciu guzika podejmie model.