Algorytmy prognostyczne w sądownictwie: maszyna decyduje o wolności

Algorytmy prognostyczne w sądownictwie: maszyna decyduje o wolności

Sądy na całym świecie coraz chętniej sięgają po oprogramowanie, które oblicza „ryzyko recydywy” oskarżonego. Wynik takiego algorytmu potrafi zadecydować o tym, czy ktoś trafi do aresztu przed procesem, czy otrzyma łagodniejszy wyrok. Problem polega na tym, że te systemy są często nieprzejrzyste, a ich błędy obciążają w szczególności mniejszości.

Skąd się wzięły algorytmy prognostyczne

Najbardziej znanym przykładem jest amerykański system COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), używany w wielu stanach do oceny ryzyka recydywy. W 2016 roku dziennikarze ProPublica przeanalizowali jego działanie i wykazali, że system był ponad dwukrotnie bardziej skłonny do błędnego oznaczania czarnoskórych oskarżonych jako „wysokie ryzyko” w porównaniu z białymi. Jednocześnie biali oskarżeni z niskim wynikiem częściej popełniali kolejne przestępstwa, niż przewidywał algorytm.

Sprawa trafiła do Sądu Najwyższego Wisconsin w sprawie State v. Loomis (2016). Sąd uznał, że użycie COMPAS jest dopuszczalne, ale z zastrzeżeniem: wynik algorytmu nie może być jedyną podstawą wyroku, a oskarżony ma prawo znać jego ograniczenia. To precedens — ale w praktyce sędziowie często traktują wynik maszyny jako autorytet.

Problem braku przejrzystości

Większość algorytmów prognostycznych to systemy własnościowe. Ich twórcy powołują się na tajemnicę handlową i odmawiają ujawnienia kodu oraz danych treningowych. Oskarżony nie wie więc, jakie zmienne wpłynęły na jego wynik — czy to historia kryminalna, czy miejsce zamieszkania, czy status zatrudnienia. Bez tej wiedzy trudno podważyć decyzję w toku odwołania.

W Europie problem ten dostrzegło prawo UE. Rozporządzenie o sztucznej inteligencji (AI Act) klasyfikuje systemy AI stosowane w wymiarze sprawiedliwości jako „wysokiego ryzyka”, co oznacza obowiązek oceny zgodności, rejestracji i nadzoru ludzkiego. To krok naprzód, ale egzekwowanie przepisów wciąż stoi przed wyzwaniami.

Fałszywa obiektywność

Najgroźniejsze jest przekonanie, że algorytm jest „neutralny”, bo nie ma uprzedzeń. W rzeczywistości system uczy się na danych historycznych, które odzwierciedlają wcześniejsze decyzje — często już stronnicze. Jeśli policja częściej patroluje określone dzielnice, dane o aresztowaniach będą przesunięte, a algorytm utrwali ten wzorzec. Maszyna nie eliminuje uprzedzeń — koduje je w liczbach.

Co dalej

Eksperci postulują: audyty niezależne, prawo do wyjaśnienia decyzji algorytmicznej, zakaz stosowania systemów „czarnej skrzynki” w sprawach wolnościowych. Bez tego ryzykujemy, że technologia wzmacni niesprawiedliwość zamiast ją łagodzić.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.