Sądy w rękach algorytmów: gdy sztuczna inteligencja decyduje o wyrokach

Sztuczna inteligencja wkracza do sal sądowych szybciej, niż ustawodawcy potrafią za nią nadążyć. Systemy wspomagania decyzji — od oceny ryzyka recydywy po przewidywanie długości kary — są już używane w wielu jurysdykcjach. Problem w tym, że ich działanie jest nieprzejrzyste, a błędy trudne do zakwestionowania.

Skąd biorą się uprzedzenia

Algorytmy uczą się na danych historycznych. Jeśli w przeszłości policja częściej zatrzymywała i skazywała osoby z określonych grup, model uzna to za wzorzec i powtórzy te same błędy. Powstaje błędne koło: uprzedzenia z przeszłości stają się “obiektywnym” wynikiem obliczeń. Sędzia, który ufa systemowi, może nie zauważyć, że rekomendacja jest skażona.

Problem “czarnej skrzynki”

Wiele systemów to modele uczenia maszynowego, których logiki nie potrafi wyjaśnić nawet ich twórcy. Oskarżony ma prawo poznać zarzuty i dowody, ale jak poznać “dowód”, który jest wektorem w przestrzeni cech? Brak audytowalności oznacza, że obrona nie może skutecznie kwestionować rekomendacji.

Kto odpowiada za błąd

Jeśli algorytm zaniży ryzyko i skazany ponownie popełni przestępstwo — winny jest sędzia, który się z nim zgodził? Jeśli zawiży — winny programista? Prawo nie nadąża za technologią. Brakuje jasnych reguł odpowiedzialności, a ofiary błędnych decyzji nie mają skutecznej ścieżki odwoławczej.

Co robić

Eksperci postulują obowiązkowe audyty algorytmów, prawo do wyjaśnienia każdej decyzji automatycznej oraz zakaz używania systemów bez możliwości weryfikacji przez człowieka. Sztuczna inteligencja może być narzędziem pomocniczym, ale nie może być sędzią.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.