Algorytm na straży. Gdy sztuczna inteligencja tropi przestępców — i nie tylko
Kiedy w filmie „Raport mniejszości” Stevena Spielberga algorytm przewidywał zbrodnie, zanim się wydarzyły, wyglądało to jak fantazja futurystyczna. Dwie dekady później służby w wielu krajach testują narzędzia o podobnej logice — i napotykają problemy, o których Spielberg nie wspomniał: stronniczość, brak przejrzystości i podważanie praw podstawowych.
Jak działa predykcyjne policyjne
Systemy predykcyjnego policyjnego wykorzystują algorytmy uczenia maszynowego do analizy danych historycznych — zatrzymań, interwencji, notowań — i wskazywania obszarów lub osób o podwyższonym prawdopodobieństwie popełnienia przestępstwa. W odróżnieniu od tradycyjnej analizy kryminalnej, algorytmy mają działać w czasie rzeczywistym i na skalę niedostępną dla ludzkich analityków.
W praktyce oznacza to, że przeszłe zatrzymania stają się prognozą przyszłych. Jeśli w danym rejonie historycznie częściej zatrzymywano osoby z mniejszości etnicznych — nawet wskutek profilowania rasowego, a nie faktycznej różnicy w przestępczości — algorytm nauczy się, że te osoby są grupą podwyższonego ryzyka. Raport Specjalnej Sprawozdawczyni ONZ ds. rasizmu, Ashwini K.P., opublikowany w lipcu 2024 roku, wskazuje wprost: „Użycie zmiennych takich jak pochodzenie społeczno-ekonomiczne, poziom wykształcenia i lokalizacja może działać jako proxy rasy i utrwalać historyczne uprzedzenia”.
Problem pogłębia fakt, że większość tych systemów działa jako rozwiązania komercyjne — firma zewnętrzna dostarcza służbom „czarną skrzynkę”, której nawet funkcjonariusze nie mogą w pełni audytować.
Rozpoznawanie twarzy: 40 razy gorsza skuteczność
Szczególnie niepokojące są systemy automatycznego rozpoznawania twarzy. Raport NatLawReview z października 2025 roku wskazuje na udokumentowaną różnicę dokładności na poziomie 40:1 między rozpoznawaniem twarzy osób o jaśniejszej i ciemniejszej karnacji. Algorytmy znacznie lepiej rozpoznają białych mężczyzn niż kobiety o ciemnej karnacji — ponieważ dane treningowe zawierają nieproporcjonalnie więcej obrazów z określonych grup demograficznych.
Skutki są materialne. W kilku udokumentowanych przypadkach w Stanach Zjednoczonych osoby zostały zatrzymane na podstawie błędnej identyfikacji przez system rozpoznawania twarzy. Adwokat obrony cytowany przez NatLawReview na konferencji w Filadelfii powiedział wprost: „Nie potrzebujemy mutacyjnych psychików z filmu Spielberga — wystarczy technologia, która jest stronnicza, nieprzejrzysta i konstytucyjnie wątpliwa”.
Bostoński departament policji publikował noty wywiadowe klasyfikujące organizacje antywojenne i ruchy społeczne jako „ekstremistów krajowych” i wykorzystywał oprogramowanie do inwigilacji aktywistów Ruchu na rzecz Życia Czarnych (Black Lives Matter) oraz muzułmanów — informuje Brennan Center for Justice.
Prawo za wolne za technologią
W Stanach Zjednoczonych nie ma kompleksowej federalnej ustawy regulującej stosowanie AI przez służby. Kilka stanów i miast wprowadziło własne ograniczenia — Baltimore zakazało oprogramowania PredPol (obecnie Geolitica), San Francisco i Portland zakazały używania rozpoznawania twarzy przez policję miejską. Na poziomie federalnym postęp jest jednak minimalny.
Ashwini K.P. w swoim raporcie dla Rady Praw Człowieka ONZ rekomendowała, by państwa „rozwijały ramy regulacyjne AI w oparciu o zrozumienie systemowego rasizmu i prawo do praw człowieka” oraz „rozważyły zakaz systemów AI, których udokumentowane ryzyko dla praw człowieka jest nieakceptowalne, w tym tych sprzyjających dyskryminacji rasowej”.
Co z tym zrobić
Skuteczne zabezpieczenia wymagają kilku zmian jednocześnie. Audyty pod kątem stronniczości powinny być obowiązkowe i publiczne. Wszystkie systemy decyzyjne w wymiarze sprawiedliwości powinny podlegać wymogowi przejrzystości — nikt nie powinien być oceniany przez algorytm, którego logiki nie można zweryfikować. Konieczna jest też jasna odpowiedzialność prawna: jeśli algorytm dyskryminuje, odpowiedzialność ponosi nie tylko producent, ale i instytucja, która go wdrożyła.
Technologia nie jest neutralna. Każde narzędzie odzwierciedla decyzje ludzi, którzy je projektowali — a ci ludzie żyli w świecie, którego uprzedzenia zostały zapisane w danych. Bez świadomego wysiłku algorytm jedynie utrwali to, z czym miał walczyć.
