Halucynacje AI w sądzie: kiedy program tworzy fałszywe orzeczenia

Problem zaczyna się od zaufania

Sztuczna inteligencja nie kłamie celowo. Tworzy to, co najprawdopodobniejsze — i czasem brzmi to jak prawdziwy precedens. W prawie jest to jednak śmiertelne zagrożenie: fałszywy cytat, fałszywe orzeczenie, fałszywa interpretacja prawa. I to wszystko w dokumencie, który trafia do sędziego.

Eksplodujący problem

W 2025 roku amerykańscy sędziowie i adwokat stale spotykali się z fałszywymi cytaty w pismach procesowych. Tylu examples można wymienić: adwokat, który uses ChatGPT do researchu i otrzymuje fikcyjne orzeczenia; sędzia, którego asystentka uses Perplexity do napisania wyroku; ekspert, który na temat deepfake’ów cite’ue fałszywe czasopisma. W jednym z przypadków sędzia federalny z Missisipi przyznał, że jego kancelaria uses Perplexity — i to przygotowywaniu wyroku w sprawie o prawa obywatelskiej.

Czym są te halucynacje?

Model languageowy nie „wie”, czy dane orzeczenie istnieje. Wie, jaka forma ma być prawidłowa — i generuje treść, która pasuje do oczekiwanego wzorca. Dlatego fałszywe orzeczenia mają poprawną strukturę: numer sprawy, nazwisko sędziego, data, cytat z „orzeczenia”. I wszystko to jest fikcyjne.

Kary, które idą daleko

Sądy nie są łaskawe. Adwokat, który uses AI i nie weryfikuje wyników, może stracić licencję. W jednym z przypadków sąd w Nowym Meksyku nałożył karę finansową, wymusił szkolenie z etyki AI i nakazał adwokatowi zgłoszenie się do barów stanowych. W innym przypadku adwokat, który twierdził, że nie uses AI, a sąd udowodnił, że kłamie, stracił pro hac vice — uprawnienie do występowania w sądach spoza stanu. Sąd uzasadniał: „kary finansowe nie są wystarczające przy tak raącym naruszeniu obowiązków zawodowych”.

Co robić?

Jedyna skuteczna obrona to weryfikacja. Każda cytat, każdy numer sprawy, każdy tekst orzeczenia musi być sprawdzony w niezależnym źródle — preferowanie oryginalnych baz danych sądowych, a nie podsumowań AI. Sądy zaczynają wprowadzać obowiązkowe oświadczenia o braku użycia AI. To dopiero początku.

Oznaczenie treści AI

Ten powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.