AI w systemach prognozowania przestępczości: dyskryminacja i błędy algorytmiczne
Systemy prognozowania przestępczości oparte na sztucznej inteligencji są wykorzystywane przez policję i sądy w wielu krajach. Ich celem jest ocena ryzyka popełnienia przestępstwa przez konkretną osobę lub prognozowanie miejsc, w których może dojść do przestępstw. Teoretycznie pozwalają one lepiej alokować zasoby i zapobiegać przestępczości. W praktyce jednak często utrwalają istniejące uprzedzenia i prowadzą do dyskryminacji.
Najbardziej znanym przykładem jest system COMPAS, używany w Stanach Zjednoczonych do oceny ryzyka recydywy. Analizy wykazały, że algorytm ten częściej przypisywał wyższe ryzyko osobom o ciemniejszej karnacji skóry, nawet przy porównywalnej historii kryminalnej. System uczył się na danych historycznych, które odzwierciedlały uprzedzenia systemu sprawiedliwości, a następnie powielał je w swoich rekomendacjach.
Problem polega na tym, że dane treningowe nie są neutralne. Jeśli policja częściej patroluje określone dzielnice, to w tych dzielnicach odnotowuje się więcej przestępstw, a algorytm uczy się, że tam ryzyko jest wyższe. Powstaje samospełniająca się przepowiednia: więcej patroli to więcej zatrzymań, więcej danych, wyższa ocena ryzyka, kolejne patrole.
Prognozowanie przestrzenne, czyli wskazywanie miejsc o podwyższonym ryzyku przestępczości, również budzi kontrowersje. Krytycy wskazują, że takie systemy mogą prowadzić do nadmiernego nadzoru wobec społeczności mniejszościowych, co pogłębia ich marginalizację i podważa zaufanie do instytucji.
Kolejnym problemem jest brak przejrzystości. Wiele algorytmów działa jako tzw. czarne skrzynki — ich twórcy nie ujawniają szczegółów działania, a sądy i policja nie zawsze potrafią wyjaśnić, dlaczego system podjął daną decyzję. To utrudnia kontrolę i podważa prawo do obrony.
Organizacje praw człowieka i naukowcy od lat apelują o wprowadzenie regulacji: audytów algorytmów, zakazu użycia certain technologii w wymiarze sprawiedliwości oraz wymogu przejrzystości. Niektóre miasta i stany w USA już ograniczyły lub zakazały stosowania systemów prognozowania przestępczości.
W Polsce i Unii Europejskiej temat ten zyskuje na znaczeniu w kontekście regulacji AI. Act o sztucznej inteligencji klasyfikuje systemy wykorzystywane w wymiarze sprawiedliwości jako wysokiego ryzyka, co wiąże się ze ścisłymi wymogami dotyczącymi przejrzystości i nadzoru.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
