AI Lavender w Gazie: gdy algorytm wskazuje 37 tysięcy celów

Gdy maszyna decyduje o życiu i śmierci

Wojna w Strefie Gazy, która wybuchła po ataku Hamasu 7 października 2023 roku, otworzyła nowy rozdział w historii konfliktów zbrojnych. Po raz pierwszy na taką skalę nowoczesny konflikt prowadzono z czynnym udziałem sztucznej inteligencji w procesie wyznaczania celów. Z śledztwa dziennikarzy „The Guardian” opublikowanego 3 kwietnia 2024 roku wynika, że izraelskie wojsko korzystało z AI do sporządzania list celów bombardowania w sposób bezprecedensowy w dotychczasowych działaniach wojennych. System, który wcześniej pojawił się w materiałach +972 Magazine pod nazwą „Gospel”, miał służyć identyfikacji obiektów powiązanych z Hamasem.

Drugi z systemów — „Lavender” — miał z kolei identyfikować osoby podejrzewane o powiązania z tą organizacją. Według relacji oficerów izraelskiego wywiadu na jednym z wczesnych etapów wojny system ten wskazał aż 37 000 potencjalnych celów osobowych, opierając się na analizie ich domniemanych powiązań z ruchem Hamas. To pierwszy udokumentowany przypadek, w którym algorytm wygenerował listę celów takiej skali w realnym konflikcie zbrojnym.

„Maszyna zrobiła to chłodno”

Zeznania sześciorga oficerów wywiadu, którzy pracowali z systemami AI, zostały zebrane i opublikowane przez „The Guardian”. To rzadkie, osobiste świadectwo ludzi, którzy bezpośrednio wykorzystywali uczenie maszynowe w celowaniu bojowym. Oficerowie opisują Lavender jako centralne narzędzie wojny — przetwarzające ogromne ilości danych w celu szybkiej identyfikacji bojowników i innych osób powiązanych z Hamasem.

Jeden z oficerów mówił wprost: „Maszyna zrobiła to chłodno”. Ten cytat z artykułu „The Guardian” doskonale oddaje dystans, jaki sztuczna inteligencja wprowadza między człowieka a decyzją o zabójstwie. Inny oficer opisywał swoją rolę jako czysto formalną: „W każdym celu na tym etapie inwestowałem 20 sekund i każdego dnia przetwarzałem dziesiątki. Jako człowiek nie wnosiłem żadnej wartości dodanej — byłem tylko pieczęcią aprobaty. To oszczędzało mnóstwo czasu”.

Te zeznania są szczególnie poruszające, bo oficer sam opisuje swoją funkcję jako czysto formalną pieczęć zatwierdzającą decyzję maszyny. Miał 20 sekund na ocenę celu, który algorytm wygenerował z analizy góry danych o powiązaniach. Pytanie, czy taka ludzka kontrola jest w istocie autentyczna, leży u podstaw międzynarodowej debaty o prawach człowieka i prawie konfliktów zbrojnych.

Emocjonalny dystans algorytmu

Ten sam oficer mówił w kontekście psychicznego obciążenia po wydarzeniach 7 października: „Wszyscy tam, łącznie ze mną, straciliśmy ludzi 7 października. Maszyna zrobiła to chłodno”. Dla niego wiara w statystyczny mechanizm sztucznej inteligencji była większa niż wiara w ocenę żołnierza obciążonego stratą — maszyna nie miała emocji. Dla krytyków to jest właśnie sedno problemu: emocjonalny dystans ułatwia podejmowanie decyzji, które w zwykłej procedurze wojskowej wymagałyby znacznie dłuższego namysłu.

Inna relacja oficerska poddaje w wątpliwość sensowność ludzkiego przeglądu — oficer zastanawiał się, czy rola człowieka w procesie wyboru była rzeczywiście znacząca. Zjawisko to znane w literaturze badawczej jako automatyzacyjna tendencyjność — nadmierne zaufanie człowieka do algorytmu, zwłaszcza w sytuacji presji czasu i naporu informacji.

Gospel i Lavender: dwa systemy, jeden zbiór pytań

„The Guardian” już 1 grudnia 2023 roku opisał „Gospel” — system sztucznej inteligencji wspomagający bombardowanie celów obiektowych. W Izraelu Gospel określana jest oficjalnie jako Habsora, co z hebrajskiego tłumaczy się jako „Ewangelia”. Według relacji AI pomagała generować cele bombardowania w tempie, którego klasyczne analizy wywiadowcze nie były w stanie osiągnąć, i działała w warunkach wojny hybrydowej.

Lavender, opisany w artykule z kwietnia 2024 roku, był narzędziem pokrewnym, ale służył identyfikacji osób. Ze śledztwa „The Guardian” wynika, że na wczesnym etapie wojny system wskazywał nawet 37 000 osób podejrzewanych o powiązania z Hamasem. Decyzja o tym, kogo z listy wyeliminować, pozostawała w gestii wojska — lecz jak wskazują relacje operatorów, warunki czasowe tej decyzji były wyraźnie ograniczone.

Pytania prawa konfliktów zbrojnych

Prawo międzynarodowe wymaga, by atak wojskowy spełniał trzy warunki: rozróżnienie celu wojskowego od cywilów, proporcjonalność oraz prewencyjną ocenę ewentualnych szkód wobec ludności cywilnej. Krytycy pytają: czy 20 sekund ludzkiej oceny celu wygenerowanego przez algorytm uczony na masie danych rzeczywiście spełnia zasadę rozróżnienia?

Izraelska oficjalna odpowiedź mówi, że ostateczna decyzja podejmowana jest przez człowieka. Świadectwa operatorów zebrane przez „The Guardian” rzucają na te zapewnienia cień — jeżeli człowiek poświęca 20 sekund, jego rola zwęża się do akceptacji decyzji maszyny. W literaturze badaczy autonomii wojskowej to zjawisko nazywa się automatyzacyjną tendencyjnością albo formalnym zatwierdzaniem bez rzeczywistej kontroli.

Wiele organizacji, m.in. Amnesty International i Human Rights Watch, wezwało do niezależnego dochodzenia. Warto zaznaczyć: sam fakt użycia sztucznej inteligencji nie jest sprzeczny z prawem wojennym — problemem staje się wtedy, gdy ludzka kontrola traci rzeczywiste znaczenie.

Co to oznacza dla przyszłości wojen

Lavender i Gospel są prawdopodobnie pierwszymi systemami sztucznej inteligencji, których seryjne zastosowanie w warunkach konfliktu miejskiego zostało udokumentowane. Dla badaczy ryzyka egzystencjalnego AI to ważny moment: dowiadujemy się z niego, jak decyzje o śmierci podejmowane przy udziale sztucznej inteligencji wpływają na tempo wojny i w jaki sposób emocjonalny dystans operatorów może być redukowany.

Bezprecedensowa liczba celów — 37 000 osobowych wskazań — generowana przez algorytm w stanie przedefiniować tempo taktycznej decyzji. To tempo, w którym tradycyjne standardy oceny międzynarodowej mogą już nie nadążać — a oficerowie, którzy 7 października stracili bliskich, mogą sięgać po maszynę szybko, bez emocji, niemal odruchowo.

Podsumowanie

To, co wydarzyło się w Gazie z Lavender i Gospel, jest trwałym przełomem w relacji człowiek–maszyna na polu walki. 37 000 celów wygenerowanych przez sztuczną inteligencję w warunkach realnego konfliktu pozostanie z nami na długo — jako przestroga przed przyszłymi wojnami, w których algorytm wskazuje, kto ma zginąć, a człowiek składa tylko podpis.