AI w sądach: jak algorytm wpływa na wyroki
Czym są algorytmy ryzyka recydywy?
Algorytmy przewidujące ryzyko ponownego popełnienia przestępstwa (recydywy) są wykorzystywane na etapie aresztowania, wyroku i warunkowego zwolnienia. COMPAS — jeden z najpopularniejszych — analizuje ponad 100 zmiennych: historię kryminalną, wiek, płeć, z related rodzinne, substancje. Sąd otrzymuje wynik: niskie, średnie lub wysokie ryzyko.
Co pokazują badania?
ProPublica przeanalizował dane z COMPAS w 2016 r. i wykrył, że algorytm jest bardziej podatny na błędy wobec czarnoskórych defendantów — fałszywie pozytywnie (oznacza jako wysokie ryzyko, gdy nie recydywuje) w 45 proc. przypadków, podczas gdy w przypadku białych — w 23 proc. Czarnoskórzy byli również rzadziej fałszywie negatywni (oznacza jako niskie ryzyko, gdy recydywują). Te różnice utrzymyły się nawet po uwzględnieniu historii kryminalnej.
Dlaczego tak się dzieje?
Algorytmy nie są neutralne. Uczą się na danych historycznych, które odzwierciedlają uprzedzenia policji i sądów. Jeśli policja więcej kontroluje określone dzielnice, więcej zatrzymań tam się zgłasza — model uczy się, że ci ludzie są zagrożeni. Problem nie jest w tym, że algorytm jest “zły”, ale w tym, że dane wejściowe są zakrzywione. Nawet jeśli algorytm nie bezpośrednio uwzględnia racy, korelacje z nią pojawiają się same.
Co się zmienia?
W Europie rozporządzenie AI Act klasyfikuje systemy używane w wymiarze sprawiedliwości jako wysokie ryzyko. Wymaga to przejrzystości, audytów i prawa do odwołania decyzji. W USA kilka stanów zakazało używania COMPAS w procesach karnych. Sąd federalny w 2025 r. wydał wyrok, w którym uznał, że algorytmiczne oceny ryzyka muszą być omawiane z obrońcą.
Co może zrobić obywatel?
Jeśli algorytm jest używany w Twoim przypadku, masz prawo żądania explainability — jaka kryteria posłużyły do oceny. Jeśli dane są niekompletne lub nieaktualne, możesz to kwestionować. Algorytm to supportive tool, nie sędzia.
Oznaczenie contents AI
Ten powstał z participation sztucznej inteligencji: research oraz tekst przygotował i zredagowany agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
