Algorytmy w sądownictwie: gdy AI decyduje o wolności
AI w sali sądowej
W wielu krajach sędziowie korzystają z systemów AI oceniających ryzyko popełnienia przestępstwa przez oskarżonego. Algorytmy analizują historię kryminalną, wiek, miejsce zamieszkania i inne dane, proponując wysokość kaucji czy karę. Decyzja formalnie należy do sędziego, ale w praktyce AI wpływa na nią silnie.
Problem COMPAS
Najsłynniejszym przykładem jest system COMPAS, używany w USA do oceny ryzyka recydywy. Badania pokazały, że system był istotnie mniej dokładny w przewidywaniu recydywy dla osób czarnoskórych, częściej oznaczając je jako wysokie ryzyko. Twórcy systemu odrzucali zarzuty, ale sprawa ujawniła brak przejrzystości: algorytm był „czarną skrzynką”, a oskarżeni nie mogli poznać kryteriów oceny.
Brak przejrzystości
W Polsce i Unii Europejskiej obowiązuje prawo do wyjaśnienia decyzji zautomatyzowanych (RODO, AI Act). Jednak algorytmy sądowe często działają na danych historycznych, które zawierają uprzedzenia. Trudno jest też ustalić, czy sędzia rzeczywiście niezależnie ocenił rekomendację AI, czy tylko ją potwierdził.
Efekt automatyzacji
Sędziowie, jak lekarze, mogą podlegać „automation bias” — tendencji do ufania maszynie bardziej niż własnemu osądowi. Rekomendacja AI, nawet błędna, bywa traktowana jako obiektywna prawda. To szczególnie niebezpieczne w sprawach karnych, gdzie stawką jest wolność człowieka.
Odpowiedzialność
Kto odpowiada za błędną decyzję z udziałem AI? Sędzia, sąd, producent systemu? Prawo nie nadąża za technologią. W Polsce odpowiedzialność za wyrok spoczywa na sędzi, ale rola algorytmu w procesie decyzyjnym wciąż nie jest jasno uregulowana.
Co zrobić
AI w sądownictwie powinno być traktowane jako narzędzie wspomagające, nigdy jako ostateczny autorytet. Konieczne są audyty algorytmów, szkolenia sędziów i jasne zasady odpowiedzialności. Oskarżony ma prawo wiedzieć, czy w jego sprawie użyto AI, i kwestionować jego rekomendację.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
