Predykcyjne policjowanie: algorytmy, które przewidują przestępstwa
Czym jest predykcyjne policjowanie
Predykcyjne policjowanie (ang. predictive policing) to zbiór metod analitycznych i algorytmicznych, które wykorzystują historyczne dane o przestępczości do prognozowania, gdzie i kiedy dojdzie do nowych wykroczeń lub kto prawdopodobnie je popełni. Zamiast reagować na zdarzenia przeszłe, służby starają się działać, zanim przestępstwo się wydarzy. Pierwsze komercyjne systemy, takie jak PredPol (później przemianowany na Geolitica), zostały wdrożone w kilkunastu amerykańskich jurysdykcjach już w latach 2011-2013. Dołączyły do nich HunchLab, KeyStats, a także aplikacje budowane wewnątrz policji dużych metropolii.
W ujęciu technicznym predykcyjne policjowanie dzieli się na trzy nurty. Predykcja miejsca identyfikuje tzw. hotspoty — kwadraty mapy o podwyższonym ryzyku, do których kieruje się więcej patroli. Predykcja osób buduje listy jednostek uzasadniające zwiększony nadzór. Predykcja ryzyka recydywy ocenia skazanych przed zwolnieniem lub przy podejmowaniu decyzji o kaucji. Trzeci nurt nachodzi na obszar algorytmicznych systemów sądowych.
Jak działają algorytmy predykcyjne
Komercyjne systemy predykcyjne rzadko opierają się na konkretnych aktach przestępców czy pojedynczych profilach. Korzystają raczej z danych takich jak historia wezwań na interwencje, lokalizacja zatrzymań, geolokalizacja zgłoszeń, a czasem także pora roku, pogoda czy położenie najbliższej szkoły. PredPol stosował model matematyczny oparty na rozkładzie Poissona, który zakłada, że przestępstwa po jednym incydencie zwiększają prawdopodobieństwo następnego w sąsiedztwie — analogicznie do wtórnych wstrząsów po trzęsieniu ziemi. Nowocześniejsze systemy sięgają po algorytmy uczenia maszynowego, gradient boosting i sieci neuronowe, które dostrajają wagi dziesiątek zmiennych.
Trzonem problemu jest jednak fakt, że dane policyjne nie są neutralnym obrazem rzeczywistości przestępczej. Są pochodną rozmieszczenia policyjnych patroli — gdzie patrol jeździł, tam więcej wykrywał. Są produktem skarg mieszkańców, które częściej docierają z bogatszych dzielnic. Są wynikiem historycznych uprzedzeń, które skierowały zasoby policji ku obszarom zamieszkałym przez mniejszości. Algorytm uczący się na takich danych nie odkrywa obiektywnych wzorców przestępczości — odkrywa wzorce policyjnego działania i powiela je w przyszłość.
Sprzężenie zwrotne i pętle dyskryminacji
Najgłębsza krytyka predykcyjnego policjowania dotyczy pętli sprzężenia zwrotnego. Patrole są kierowane tam, gdzie algorytm sygnalizuje wyższe ryzyko. Zwiększona obecność policji generuje więcej zatrzymań i wezwań. Te nowe zatrzymania trafiają do bazy danych jako “nowe przestępstwa”. Algorytm w kolejnym cyklu treningowym widzi wzrost w tej dzielnicy, podnosi jej rating, kieruje tam więcej patroli. Cykl się powtarza i potęguje.
W badaniach opublikowanych przez RAND Corporation, dotyczących wdrożenia systemu predykcyjnego w Shreveport (Luizjana), badacze wykazali, że zwiększona intensywność patroli w wytypowanych rejonach nie zmniejszyła przestępczości brutalnej, ale wygenerowała drastycznie więcej zatrzymań za drobne wykroczenia. Algorytm oznaczał biedniejsze dzielnice jako wysokiego ryzyka nie dlatego, że więcej przestępców tam faktycznie przebywa, ale dlatego, że więcej policji tam operowało. Wewnętrzny dokument z 2022 roku, który wyciekł do ACLU, stwierdzał bez ogródek, że w niektórych jurysdykcjach systemy predykcyjne pośrednio produkowały dane o rasie i pochodzeniu mieszkańców, mimo zapewnień o neutralności.
Przypadek PredPol i Pasadeny
Studia przypadku rzucają światło na rozwój kryzysu. W Pasadenie (Kalifornia) policja używała PredPol przez pięć lat, zanim lokalne organizacje obywatelskie wymusiły audyt. Okazało się, że system oznaczał m.in. tereny parkingowe przed szkołami średnimi w okolicach mniejszościowych. Doszło do eskalacji kontaktów młodych ludzi z systemem sprawiedliwości nieletnich w sprawach, które bez AI zostałyby zignorowane. W New Jersey ProPublica raportowała podobną sprawę dotyczącą algorytmu recydywy, który dwukrotnie częściej oznaczał czarnoskórych oskarżonych jako wysokiego ryzyka niż białych oskarżonych o podobnej historii kryminalnej.
Wielu odbiorcom systemu PredPol zarzucano też brak transparentności. Firma chroni swoje algorytmy jako tajemnicę handlową. Policja w Sacramento, gdy lokalna organizacja wymusiła wydanie dokumentów, odkryła, że dane nie były kontrolowane, a sprawozdawczość wobec rady miejskiej pozostawała pusteformalna. Brak pełnej dokumentacji utrudnia społecznej kontroli ocenę efektywności i sprawiedliwego wykorzystania.
Konstytucyjne i filozoficzne pytania
Predykcyjne policjowanie stawia pod znakiem zapytania kilka fundamentalnych zasad prawa karnego. Pierwszą jest domniemanie niewinności. Kiedy patrol jest kierowany do dzielnicy z powodu algorytmu, mieszkańcy wchodzą w strefę intensyfikacji policyjnej nie dlatego, że coś zrobili, ale dlatego, że system coś przewidział. Drugą zasadą jest równość wobec prawa. Jeśli algorytm skutecznie nakierowuje zasady na uboższe dzielnice mniejszościowe, obywatele tam mieszkający doświadczają innego standardu kontaktu z państwem niż obywatele bogatszych okolic. Trzecią zasadą jest prawo do prywatności — lokalizacja telefonów, dane o śledzeniu, analizy twarzy nakładają się na predykcyjny profil.
Filozoficznie rzecz biorąc, predykcyjne policjowanie zapowiada przejście od ścigania czynów do ścigania prawdopodobieństw. Badacz Andrew Ferguson z University of District of Columbia w książce The Rise of Big Data Policing argumentuje, że system przewidujący łączy w sobie cechy profilowania z wyrokiem ex ante — mieszkańcy dzielnicy traktowani są jak obiekty statystycznego zagrożenia, a nie jednostki o prawach. To zmienia kulturowe znaczenie policji z instytucji reagującej w awangardę prewencyjną, która potencjalnie traci kontakt z lokalną społecznością.
Regulacje i AI Act
Unia Europejska w AI Act (weszło w życie w sierpniu 2024) wprowadza twarde zasady dla systemów predykcyjnych kryminalnych. Traktowane są one jako high-risk AI systems — wymagają obowiązkowej oceny wpływu na prawa podstawowe, logowania rejestrów, transparentności, audytu i możliwości wyjaśniania decyzji. Komisja Europejska przygotowuje zharmonizowane standardy dla takich systemów. Stany Zjednoczone nie mają analogicznego prawa federalnego, ale kilka stanów stosuje lokalne ustawy — Illinois wymaga audytu biasu, Kalifornia nakłada ograniczenia wykorzystania danych predykcyjnych, a Nowy Jork rozszerza miejski nadzór nad inwigilacją. Społeczność badaczy apeluje o inicjatywy na poziomie federalnym.
Drogi naprzód
W obliczu tych wyzwań proponuje się kilka kierunków poprawy. Pierwszy to obowiązkowy audyt biasu — każdy system predykcyjny musi zostać zbadany pod kątem wpływu na grupy chronione, a wynik audytu musi być publiczny. Drugi to weryfikacja z niezależnymi danymi — aby sprawdzić, czy system mierzy przestępczość, czy działania policji, należy porównać wyniki z niezależnymi ankietami o ofiarach przestępstw. Trzeci to udostępnienie algorytmu — badacze społeczni i dziennikarze muszą móc sprawdzić, jak działa system, co zostało zakwalifikowane jako zmienna i jak model waży czynniki. Czwartym jest klauzula wygaśnięcia — każdy system predykcyjny powinien być czasowy i wymagać regularnego przedłużenia z oceną skuteczności.
Pytanie, które stawia się dziś społeczności technologicznej i prawniczej, dotyczy nie tego, czy predykcyjne policjowanie powinno istnieć, ale tego, jak uniknąć spirali wzmacnianego nadzoru — systemu, w którym algorytm nie odkrywa przestępczości, lecz ją produkuje w społecznościach najbardziej na nią wystawionych. Bez audytów, transparentności i społecznej kontroli predykcyjne policjowanie ryzykuje, że zamiast zapobiegać przestępstwom, będzie zapobiegało sprawiedliwości.