Sztuczna inteligencja w strzelaniu masowym: analiza ryzyk wykorzystania AI w atakach zbrojnych

Niezamierzone konsekwencje cywilizacyjne

Rozwój modeli językowych przynosi niezamierzone konsekwencje w obszarze bezpieczeństwa publicznego. Modele, które miały służyć edukacji, nauce i biznesowi, mogą być wykorzystane przez osoby planujące ataki zbrojne — od strzelania masowego po akty terrorystyczne. To jedna z najbardziej nieprzyjemnych kategorii ryzyka związanych ze sztuczną inteligencją — technologia nie musi być bronią, żeby móc być wykorzystana jako narzędzie w planowaniu zbrodni.

Po ataku strzelca masowego w Buffalo w 2022 roku okazało się, że sprawca wykorzystał radykalizujące fora internetowe i ogólnodostępne technologie do planowania ataku. Po ataku w Uvalde w 2022 roku dyskusja rozszerzyła się na rolę mediów społecznościowych i technologii. W obu przypadkach rola technologii była częściowa — sprawcy korzystali z internetu do radykalizacji i komunikacji, ale sztuczna inteligencja nie odegrała centralnej roli. To się zmienia wraz z dostępem do modeli językowych, które potrafią pomagać w planowaniu i koordynacji.

Jak modele językowe mogą być wykorzystane

Najbardziej niepokojące scenariusze wykorzystania sztucznej inteligencji w obszarze przemocy obejmują:

• Planowanie logistyczne — sztuczna inteligencja może wygenerować szczegółowy plan operacyjny uwzględniający lokalizację, ruch ofiar i godziny odpowiedzi służb.
• Optymalizacja skutków ataku — z wykorzystaniem publicznie dostępnych map i danych demograficznych, sztuczna inteligencja może pomóc atakującemu w wyborze najbardziej „efektywnego” scenariusza.
• Synteza materiałów — choć twórcy modeli blokują instrukcje syntezy materiałów wybuchowych, niektóre modele wciąż udzielają częściowych odpowiedzi, które można połączyć i wykorzystać.
• Koordynacja komunikacji — automatyzacja komunikacji z wieloma współpracownikami lub z mediami po ataku.
• Radykalizacja — generowanie treści propagandowych, które mogą pomóc w przyciągnięciu nowych zwolenników, w szczególności w społecznościach młodych.

Po ataku w USA w 2024 roku sprawca wykorzystywał treści wygenerowane przez sztuczną inteligencję do radykalizacji. To wywołało dyskusję o roli dostawców modeli w ograniczaniu takich zastosowań.

Rola twórców modeli — politiki bezpieczeństwa

OpenAI, Anthropic, Google i inni dostawcy modeli mają polityki bezpieczeństwa, które zabraniają używania ich systemów do planowania przemocy. Modele są trenowane, by odmawiać pytań o instrukcje tworzenia broni, planowanie ataków, materiały wybuchowe. Ale jak pokazują dalsze badania, te zabezpieczenia nie są pełne.

• Jailbreaki pozwalają na obchodzenie zabezpieczeń — w szczególności techniki wielokrokowe, w których użytkownik rozkłada pytanie na komponenty, z których każdy indywidualnie nie jest rozpoznawany jako niebezpieczny.
• Modele open source — modele bez ograniczeń, wytrenowane przez twórców open source, mogą być uruchomione lokalnie, poza kontrolą twórców komercyjnych. Modele bez ograniczeń są dostępne i mogą być instalowane przez użytkowników na własnym sprzęcie.
• Wyciek danych treningowych — modele wytrenowane na publicznie dostępnych danych mogą przypadkowo zawierać informacje o procederze syntezy materiałów wybuchowych czy taktyce policyjnej.

Raport RAND Corporation z 2023 roku podniósł obawy, że modele językowe mogą pomóc w planowaniu ataków. Choć modele nie udostępniły nowej wiedzy, mogły zabiedzieć pomoc w logistyce, koordynacji i planowaniu ataków. Dla większości użytkowników to trudna abstrakcja, ale dla osób psychologicznie niestabilnych lub ideologicznie zmotywowanych to wartościowe narzędzia.

Dostęp do broni vs. dostęp do narzędzi planowania

W dyskusji o roli sztucznej inteligencji w atakach zbrojnych często słychać argument, że sprawcy i tak popełnią atak bez jej pomocy. To prawda częściowo — w przypadku sprawców zaangażowanych, zmotywowanych, dostęp do sztucznej inteligencji nie jest czynnikiem decydującym. Ale w szczególności trzy obszary są istotne:

• Inspirowanie oraz radykalizacja — generowanie treści propagandowych, które mogą przeciągnąć niezdecydowanych do przemocy.
• Wzrost znaczenia ataku — planowanie logistyczne, które zwiększa liczbę ofiar.
• Inspirowanie naśladowców — po ataku, modele mogą wygenerować manifesty, które mogą inspirować kolejnych sprawców.

Trudno jest rozróżnić między materiałami, które są chronione wolnością słowa, a treścią, która jest eksploatacyjna. Różne państwa mają różne regulacje — w Stanach Zjednoczonych wolność słowa jest chroniona pierwszą poprawką, podczas gdy w Europie i innych krajach regulacje są bardziej restrykcyjne.

Regulacje — co może się stać

Akt o sztucznej inteligencji Unii Europejskiej zaklasyfikował systemy stwarzające ryzyko dla bezpieczeństwa publicznego jako wysokiego ryzyka lub zakazane. Ale egzekwowanie tych regulacji po fakcie, w szczególności wobec sprawców, którzy prawdopodobnie działają poza jurysdykcją, jest trudne.

Stany Zjednoczone wciąż nie mają federalnej regulacji sztucznej inteligencji. Niektóre stany zabraniają wykorzystania sztucznej inteligencji w budowaniu broni, ale egzekwowanie jest trudne. W 2024 roku ogłoszono inicjatywę federalno-stanową dotyczącą współpracy z laboratoriami sztucznej inteligencji w zakresie bezpieczeństwa publicznego, ale efekty są ograniczone.

Odpowiedzialność dostawców modeli stała się przedmiotem pozwów — rodziny ofiar ataku w Buffalo pozwali twórców forów internetowych i platformy społecznościowe, twierdząc, że algorytmy rekomendacji sprzyjały radykalizacji ich krewnych. Podobne pozwy mogą pojawić się wobec dostawców modeli językowych.

Edukacja i interwencja wczesna

Najbardziej realistyczną obroną jest interwencja wczesna. Edukacja, świadomość nauczycieli, rodziców, lekarzy i pracowników socjalnych odgrywa kluczową rolę. Platformy społecznościowe i dostawcy modeli wprowadzają funkcje, które identyfikują sygnały radykalizacji i oferują interwencję psychologiczną — podobnie jak funkcje ostrzegawcze dla samobójców, które zostały wcześniej wprowadzone.

W 2024 roku służba bezpieczeństwa w Santa Clara County w Kalifornii rozpoczęła program interwencji, w którym nauczyciele, rodzice i pracownicy socjalni mogą zgłaszać osoby w stanie radykalizacji. Program oferuje wsparcie psychologiczne, mentoring i wsparcie społeczne. Podobne programy działają w innych miastach USA i w Europie. Włączenie sztucznej inteligencji jako narzędzia wykrywania wczesnych sygnałów jest obiecującym kierunkiem obrony.

W jakim kierunku idziemy

Sztuczna inteligencja w rękach sprawców ataków zbrojnych to technologia, która nie jest pierwotną przyczyną przemocy, ale może ją wzmacniać. Regulacja dostępu do narzędzi sztucznej inteligencji jest trudna — technologia rozprzestrzenia się szybciej niż prawo. W obliczu tej rzeczywistości:

• Rola laboratoriów sztucznej inteligencji powinna obejmować poważne testowanie bezpieczeństwa i współpracę z służbami.
• Edukacja cyfrowa, świadomość społeczna i interwencja wczesna to najważniejsze linie obrony.
• Współpraca między dostawcami platform a organami publicznymi może ograniczyć ekspozycję najmłodszych użytkowników na treści radykalizujące.
• Regulatorzy powinni wymagać od laboratoriów sztucznej inteligencji, by mieli procedury zgłaszania incydentów bezpieczeństwa.

W polityce publicznej tkwi uświadomienie, że nie istnieje techniczne rozwiązanie, które rozwiązałoby problem przemocy — to problem społeczny, ekonomiczny, psychologiczny. Sztuczna inteligencja może być elementem wsparcia interwencji, gdy zostanie wykorzystana dla obrony, ale nie jest sama w sobie narzędziem zabezpieczenia publicznego. Ostatecznie społeczne podejście — które obejmuje wsparcie psychologiczne, programy edukacji, interwencję wczesną oraz kontrolę dostępu do broni — może realnie zmniejszyć ryzyko ataków masowych.

Kwestia, czy technologia sztucznej inteligencji może doprowadzić do nowych taktyk ataków, pozostaje otwarta. Pierwsze sygnały są niepokojące. Ostatnia szansa to połączenie technologii, świadomości społecznej i regulacji w jedną baterię obrony.