Halucynacje prawne sztucznej inteligencji: gdy adwokat cytuje nieistniejące precedensy

Illinois 2026: 15 000 dolarów kary za dziesięć fałszywych cytatów

W lipcu 2026 roku Illinois Appellate Court, First District, wydał opinię w sprawie, która stanie się jednym z symboli kampanii przeciwko halucynacjom sztucznej inteligencji w sądach. Sąd nałożył 15 000 dolarów grzywny na adwokata Masona Cole’a z kancelarii Cole Sadkin — jego pismo procesowe zawierało dziesięć fałszywych cytatów statutowych oraz fałszywe odwołania do orzecznictwa. Opinia zapadła 28 lipca 2026 roku; kilka dni później sprawę opisał ABA Journal.

Według relacji ABA Journal Cole przyznał, że używał premierowej korporacyjnej subskrypcji ChatGPT do syntezowania złożonych kwestii prawnych. Próbował weryfikować informacje krzyżowo w LexisNexis, „aby uniknąć halucynacji”. Niemniej jednak sąd zauważył, że nawet jego odpowiedź zawierała błędy dotyczące obowiązującego prawa — odwołania do nieistniejącej podsekcji statutowej. Sąd przyjął stawkę 1 500 dolarów za każdy fałszywy cytat, uzasadniając wyższą kwotę niż w podobnych sprawach argumentem: „Sądy nie mają wyboru, muszą zwiększać kary za halucynowane przez AI przywołania orzeczeń, dopóki kary te nie będą miały znaczącego efektu odstraszającego”.

Sprawa odbija się echem w środowisku zawodowym z trzech powodów. Po pierwsze, sankcja utwierdza precedens, że prawnik odpowiada osobiście — firmy AI nie są stroną w tej sprawie. Po drugie, te 15 000 dolarów to wyższa niż zwykle stawka — sygnał, że sądy tracą cierpliwość. Po trzecie, sprawa dotyka jak dotąd najbardziej odsłanianego pola — generowanych pism procesowych wykorzystywanych przez kancelarie w masowej skali.

FTC uderza w „AI lawyer” DoNotPay

Równolegle do sankcji sądowych akcja egzekwowania prawa została podjęta przez Federal Trade Commission (FTC) w ramach operacji „Operation AI Comply”. We wrześniu 2024 roku, jak relacjonuje portal Artificial Lawyer, FTC nałożył 193 000 dolarów kary na DoNotPay — firmę, która reklamowała się jako „the world’s first robot lawyer”. Kary dotknęły jej CEO Joshuę Browdera za fałszywy marketing, twierdzący, że aplikacją można „bezpiecznie” zastąpić adwokatów w wielu zagadnieniach prawnych — od odwołań od mandatów po pozwy przeciwko korporacjom.

Sprawa DoNotPay ujawniła istotny problem tego rynkowego modelu: aplikacja nie prowadziła rzeczywistej weryfikacji swoich wyników z prawem w jurysdykcjach, gdzie była oferowana. W ramach tej samej operacji FTC podjął pięć akcji egzekwowania prawa przeciwko firmom reklamującym rzekomo sztuczną inteligencję w sposób wprowadzający w błąd — od narzędzi modyfikacji tekstu akademickiego po systemy prognostyczne.

Najważniejszy wniosek tego epizodu jest konsekwencją ramowej zasady FTC: nawet jeżeli AI generuje „wystarczająco dobry” tekst, bez weryfikacji autorytetów i orzecznictwa ma to być traktowane jako nieuczciwa praktyka rynkowa. Kategoria „AI lawyer” w istocie suficituje kategorią „AI adwokat”, co — co ciekawe — udowadnia indorowanie AI w roli, w której etyczna odpowiedzialność jest w istocie profesjonalna.

Mata v Avianca: pierwszy przypadek, który stał się symbolem

Choć sprawa Masona Cole’a jest najnowsza i najbardziej sankcjonowana, historycznie pierwszym symbolicznym przypadkiem halucynacji AI w sądzie pozostaje Mata v Avianca (sprawa 22-cv-1461 w Sądzie Dystryktowym Południowej Dzielnicy Nowego Jorku). W 2023 roku adwokat Steven Schwartz przyznał się do używania ChatGPT do wyszukania orzecznictwa. Generując odpowiedź, ChatGPT wymyślił sześć fałszywych precedensów — wraz z cytatami, nazwiskami stron i numerami spraw. Schwartz został ukarany sankcję 5 000 dolarów oraz dwudniowym zawieszeniem w dostępie do sądu.

Sprawa Mata v Avianca otworzyła sezon publicznego rozpoznawania, że LLM-y (ang. large language models) mogą nie tylko się mylić, ale zmyślać źródła z pełną konsekwencją formalną — z odpowiednią paginacją i cytatami, które brzmią prawdopodobnie. Dla profesji prawniczej stało się jasne, że weryfikacja materiału przez drugi system (np. LexisNexis lub Westlaw) musi być obowiązkowa, a nie opcjonalna.

Branża odpowiada: Clearbrief i Westlaw wprowadzają weryfikację

W grudniu 2025 roku portal Artificial Lawyer opublikował analizę trendu narzędzi antyhalucynyjnych dla prawników. Clearbrief — startup tworzący platformę do weryfikacji cytatów — wprowadził funkcję Cite Check Report, która automatycznie sprawdza, czy cytowanie w piśmie faktycznie istnieje w bazach prawnych. Cytat Jacqueline Schafer, CEO Clearbrief, jest tutaj dobitny: „Partnerzy są sankcjonowani i ponoszą szkody reputacyjne”.

Clearbrief poszedł w jeszcze dalej i celowo: zamiast wykorzystywać LLM-y do samej weryfikacji firmy coraz częściej stosują klasyczne sztuczna inteligencję (tzw. classic AI) i wyszukiwanie deterministyczne w autorytatywnych bazach. Westlaw wprowadził podobną funkcję weryfikacji we wrześniu 2025 roku. To obecnie najpewniejsza praktyka zapobiegania halucynacjom prawnym: dwa różne systemy — LLM-y do pisania, deterministyczne sprawdzenie do weryfikacji.

Konsekwencje dla profesji i klientów

W tendencjnym wolumenie spraw sankcyjnych za halucynacje AI obserwujemy trzy warstwy konsekwencji:

• Finansowe: kary wahają się od kilku tysięcy do kilkunastu tysięcy dolarów — Mason Cole zapłacił 15 000, Steven Schwartz 5 000, DoNotPay 193 000.
• Reputacyjne: imię adwokata pojawia się w kontekście prasowym z negatywnym komentarzem — ten koszt często istotny szkodliwy przez lata.
• Regulacyjne: stowarzyszenia adwokackie wprowadzają opinie formalne — ABA Formal Opinion 512 (2024) nakłada na prawników obowiązek weryfikacji wygenerowanego materiału i przekazania klientowi informacji o używanych narzędziach AI.

Powyższe warstwy zbiegają się na fundamentalnej zasadzie: odpowiedzialność za treść dokumentu — cytowane w nim precedensy — pozostaje odpowiedzialnością profesjonalnego prawnika, a nie łańcucha narzędziowego. Inaczej mówiąc, adwokat, który powołuje się na nieistniejący precedens, jest ponosi konsekwencje jakby go sam wymyślił.

Co dalej?

Halucynacje prawne nie są usterką naprawialną wersji modelu językowego — są inherentnym mechanizmem statystycznego przewidywania tokenu w LLM-ach. Każda kolejna wersja modelu będzie lepiej naśladować formę precedensu — ale to zwiększy ryzyko, że halucynacja będzie trudniejsza do wykrycia, a nie łatwiejsza.

W praktyce zaleca się:

• Podwójną weryfikację w autoryzowanych bazach prawa przed dołączeniem listy cytatów do pisma procesowego.
• Protokół redakcyjny kancelarii, w którym każdy generowany przez AI dokument jest weryfikowany przez drugiego adwokata z dostępem do Westlaw lub LexisNexis.
• Dysklozowanie klientowi stopnia i formy wykorzystania AI w wypracowaniu dokumentu (zgodnie z ABA Opinion 512).

To, co widać jako trend: sądy nie będą inkluzywne wobec argumentu „ale AI to wymyślił”. Przestestanie. Wdrożenia złożoności te nie tylko uprościły proces — ale wprowadziły nowy wymóg: prawnik musi z powrotem kontrolować narzędzie, a nie pozwalać kontrolować się przez narzędzie. Inaczej kara za porzucenie profesjonalnej odpowiedzialności będzie rosnąca.