Halucynacje AI w sądach: prawnicy i nieistniejące orzeczenia

Modele językowe nie przechowują prawdy — przewidują kolejne słowa na podstawie wzorców statystycznych. Gdy w trakcie pisania model „potrzebuje” orzeczenia, które wspiera argumentację, potrafi wygenerować brzmiące precyzyjnie przywołanie: nazwę sprawy, numer, rok, nawet streszczenie tezy. Jedynym problemem jest to, że cała ta konstrukcja może być fikcją. W prawie, gdzie liczy się dosłowność przywołań, ta cecha sztucznej inteligencji przestała być ciekawostką techniczną, a stała się realnym ryzykiem zawodowym.

Sprawa, która zaczęła falę

Głośny precedens zapadł w Nowym Jorku w 2023 roku. Adwokat Steven Schwartz, przygotowując pismo procesowe w sprawie Mata przeciwko linii lotniczej Avianca, poprosił ChatGPT o orzeczenia potwierdzające argumentację, a następnie wstawił do dokumentu sześć przywołań. Każde z nich okazało się wytworem wyobraźni modelu — nieistniejące sprawy, nieistniejące wyroki, wykreowane tezy prawne. Sędzia P. Kevin Castel, po tym jak strona przeciwna zgłosiła brak takich orzeczeń w wiarygodnych bazach, zarzucił obrońcom porzucenie obowiązków i w czerwcu 2023 roku nałożył łączną karę 5 000 dolarów. Sąd podkreślił przy tym, że używanie narzędzi AI samo w sobie nie jest zabronione, ale adwokat odpowiada za każdy argument złożony do sądu.

Fala nie ustaje

W kolejnych latach podobne przypadki mnożyły się na obu stronach Atlantyku. W Stanach Zjednoczonych sądy różnych instancji karały prawników za fikcyjne przywołania wygenerowane przez modele językowe — zarówno te ogólne, jak i komercyjne narzędzia reklamowane jako dedykowane pracom prawniczym. Obserwatorzy i ośrodki badawcze wskazywali, że liczba zgłaszanych spraw rośnie z roku na rok wraz z upowszechnieniem się asystentów AI.

W Wielkiej Brytanii w czerwcu 2025 roku Prezes Wydziału Królewskiego Wysokiego Sądu, sędzia Victoria Sharp, rozpatrzyła dwie sprawy, w których pisma procesowe zawierały dziesiątki fikcyjnych przywołań — całkowicie zmyślonych orzeczeń albo zmyślonych cytatów z orzeczeń prawdziwych. Sąd wyjaśnił, że podstawienie fałszywego materiału może stanowić pogwałcenie obowiązków zawodowych i podlegać karom — od publicznego upomnienia po zarzuty pogardy sądu i skierowanie sprawy do policji — a samo oświadczenie o wykorzystaniu AI nie zwalnia z obowiązku weryfikacji każdego przywołania. W jednej ze spraw prawniczka posłużyła się nieistniejącym orzeczeniem, by uzasadnić przedłużenie terminu na wniesienie odwołania.

Nawet „dedykowane” narzędzia zawodzą

Przekonanie, że problem dotyczy tylko konsumenckich czatów, rozwiały badania ośrodka Stanford RegLab. W badaniu opublikowanym w 2025 roku badacze przetestowali dedykowane narzędzia AI dla prawników oferowane przez czołowych dostawców baz prawnych i wykazali, że halucynują w 17–33% zapytań — w przypadku jednego z nich zmyślona treść pojawiła się w jednej trzeciej odpowiedzi. To istotnie mniej niż w ogólnodostępnych modelach językowych, które w zapytaniach prawnych mylą się — według wcześniejszych badań tego środowiska — w 58–82% przypadków. Jednak nawet kilkanaście procent błędów dyskwalifikuje narzędzie jako źródło: system bez podpięcia do aktualnego, sprawdzonego repozytorium orzeczeń pozostaje generatorem tekstu, a nie wiedzą prawniczą.

Co grozi prawnikowi

Konsekwencje fikcyjnych przywołań są wymierne. W grę wchodzą kary finansowe nakładane przez sąd, obciążenie kosztami postępowania, wnioski dyscyplinarne wobec adwokata, a w skrajnych przypadkach — jak wskazał brytyjski sąd — zarzuty pogardy sądu. Do tego dochodzi reputacyjny koszt dla kancelarii, którego nie wyrównuje żadna oszczędność czasu przy pisaniu pism.

Lekcja dla praktyki

Zasada sprowadza się do jednego zdania: model językowy może być pomocnikiem w redagowaniu i porządkowaniu argumentacji, ale nigdy źródłem orzeczenia. Każde przywołanie — nazwa sprawy, sygnatura, teza — musi zostać zweryfikowane w oficjalnych bazach orzecznictwa, zanim trafi do pisma procesowego. Sądy na dwóch kontynentach powiedziały to wprost: odpowiedzialność za treść złożoną do sądu spoczywa na człowieku, niezależnie od tego, jakim narzędziem przygotowywał dokument.

Dla użytkowników spoza branży prawnej sprawa jest przestrogą o szerszym zasięgu. Jeśli halucynacje AI tak szybko trafiają do dokumentów składanych przez profesjonalistów przed sądami, tym większa ostrożność jest wymagana tam, gdzie nikt nie weryfikuje treści w ogóle.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.