Sądowe halucynacje: kiedy AI fałszuje orzeczenia
Sądowe halucynacje: kiedy AI fałszuje orzeczenia
W 2025 roku dwaj sędziowie federalni Stanów Zjednoczonych przyznali, że ich wyroki zawierają błędy wygenerowane przez sztuczną inteligencję. Sędzia Julien Xavier Neals (Nowy Jersy) i sędzia Henry T. Wingate (Missisipi) ujawnili, że asystenci prawni użyli ChatGPT i Perplexity przy sporządzaniu projektów orzeczeń. Teksty, które trafiły do publicznego rejestru, zawierały fikcyjne nazwy spraw, nieprawdziwe cytaty z orzeczeń oraz błędne opisy wyroków — klasyczne halucynacje modelu językowego.
Sytuacja ujrzała światło dzienne dopiero po tym, jak adwokaci zauważyli niezgodności w orzeczeniach i zwrócili się do przewodniczącego Komisji Sądownictwa Senatu Chucka Grassleya z prośbą o śledztwo. W odpowiedzi sędziowie przyznali się do błędów. Neals stwierdził, że projekt decyzji w sprawie papierów wartościowych „został wydany przez błąd ludzki” i natychmiast wycofany. Wingate przyznał, że jego asystent użył Perplexity „jako podstawowego narzędzia do syntezowania publicznie dostępnych informacji z akt sprawy” — bez wcześniejszej weryfikacji przez sędziego.
Obaj sędziowie podkreśleni, że oryginalne, błędne wyroki pozostają w aktach ich kancelarii. Grassley skomentował to stwierdzeniem, że „ta rozbieżność między szybką samością AI a powolną, ostrożną pracą wnioskowania prawnego oznacza, że musimy być ostrożni w sposobie integracji tej technologii — reaktywnie, nie tylko”.
Administracja sądów federalnych, kierowana przez dyrektora Roberta J. Conrada Jr., wydała w lipcu 2025 roku tymczasowe wytyczne. Zależały one weryfikacji każdej zawartości wygenerowanej przez AI oraz powstrzymaniu się od powierzania AI „funkcji sądowych”, takich jak rzeczywiste podejmowanie decyzji. Sędzia Wingate poinformował, że po incydencie jego kancelaria wprowadziła pisemną politykę dotyczącą użycia AI. Neals dodał, że jego zespół rozszerzył proces recenzji.
W Stanach Zjednoczonych sądy zaczęły również nakładać kary na adwokatów, którzy nie zweryfikowali wyników AI. Od 2023 roku setki spraw zakończyły się sankcjami za powoływanie się na nieistniejące sprawy wygenerowane przez języki modelowe. Sędzia z Teksasu wprowadził w kwietniu 2025 roku przepis proceduralny, który nakłada na prawników obowiązek certyfikowania, czy żadna część pisma nie została przygotowana z użyciem AI, pod groźbą sankcji, w tym odrzucenia sprawy.
Zdaniem ekspertów problem nie ogranicza się do Stanów Zjednoczonych. Damien Charlotin, badacz z HEC Paris, prowadzi bazę danych halucynacji sądowych i notuje rosnący ich liczbę w jurysdykcjach europejskich i azjatyckich. Gdy systemy językowe są w stanie wygenerować przekonujący tekst w sekundę, granica między rzeczywistym precedensem a fikcyjnym cytatem staje się niezwykle trudna do wykrycia — i to nie tylko dla sędziów.
Oznaczenie treści AI
Ten powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagowany agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
