Nieistniejący orzecznik, realny wyrok: gdy strona procesowa korzysta z wygenerowanego przez AI

Piśmo procesowe, w którym adwokat powołuje się na orzeczenie, a orzeczenie to nie istnieje — to dziś jeden z najczęściej powtarzanych scenariuszy w sądach amerykańskich. Mechanizm jest zawsze ten sam: narzędzie generatywnej AI zmyśla cytat, a pełnomocnik, który go użył, nie sprawdził, czy taki wyrok w ogóle został wydany. Skutki są rzeczywiste: grzywny, skierowania do postępowań dyscyplinarnych i obowiązki informowania własnego pracodawcy.

Głośna sprawa z Manhattana (2023)

W czerwcu 2023 roku sędzia P. Kevin Castel z sądu federalnego na Manhattanie nałożył grzywnę w wysokości 5 000 USD łącznie na dwóch prawników — Stevena Schwartza i Petera LoDuco — oraz ich kancelarię Levidow, Levidow & Oberman. Powodem było złożenie pisma zawierającego sześć fikcyjnych orzeczeń wygenerowanych przez ChatGPT w sprawie o odszkodowanie przeciwko linii Avianca. Sędzia ocenił zachowanie jako działanie w złej wierze, wskazując na „świadome unikanie” i wprowadzanie sądu w błąd. Sprawa stała się pierwszym głośnym ostrzeżeniem: ChatGPT nie jest bazą orzecznictwa, a odpowiedzialność za treść pisma ponosi prawnik, nie narzędzie.

Indiany 2025: 15 000 USD za trzy pisma

W lutym 2025 roku sąd federalny w Indianie zalecił nałożenie na adwokata Rafaela Ramireza grzywny w wysokości 15 000 USD — po 5 000 USD za każde z trzech pism procesowych zawierających nieistniejące orzeczenia wygenerowane przez AI. Ramirez występował w imieniu spółki HooserVac LLC przed United States District Court for the Southern District of Indiana. Sąd nie zdołał zlokalizować cytowanego orzeczenia w sprawie „In re Cook County Treasurer, 773 F.3d 834 (7th Cir. 2014)”, a weryfikacja wcześniejszych pism tego pełnomocnika ujawniła kolejne dwa nieistniejące wyroki.

W wyjaśnieniach Ramirez przyznał, że korzystał z oprogramowania opartego na generatywnej AI, i twierdził, że nie był świadomy zjawiska tzw. halucynacji AI. Okolicznością obciążającą był brak jakichkolwiek czynności weryfikacyjnych — adwokat oparł się wyłącznie na pozornej wiarygodności wygenerowanych fragmentów. Sędzia Mark J. Dinsmore podkreślił, że sprawdzenie poprawności cytowanych źródeł to podstawowy obowiązek każdego prawnika, istniejący od zarania zawodu, a narzędzia informatyczne — w tym systemy informacji prawnej — uczyniły to zadanie jeszcze prostszym niż w przeszłości. Poza grzywną Ramirez musiał przedstawić wyjaśnienia zarządowi reprezentowanej spółki i został skierowany do rozważenia dalszego postępowania dyscyplinarnego. Kancelaria Iuridico zauważa, że sprawa może być przestrogą także dla polskich prawników, którzy coraz częściej sięgają po narzędzia AI w codziennej praktyce.

Wyoming: osiem nieistniejących orzeczeń

W styczniu 2025 roku prawnicy kancelarii Morgan & Morgan złożyli dziewięć orzeczeń na poparcie pozwu przeciwko Walmartowi i Jetson Electric Bikes w sprawie pożaru rzekomo spowodowanego przez deskorolkę elektryczną. Osiem z nich zostało wymyślonych przez ChatGPT. Sędzia okręgowy Kelly Rankin wydał nakaz wyjaśnienia, dlaczego „nie powinni zostać ukarani za powołanie się na osiem nieistniejących spraw”. W uzasadnieniu nakazu sędzia wskazał m.in. na to, że przeciwnicy procesu — obrońcy Walmartu i Jetson Electric Bikes — nie tylko nie odnaleźli tych spraw w zbiorach orzecznictwa, ale generując zapytania do ChatGPT, otrzymali dokładnie te same fikcyjne przykłady.

Kancelaria Morgan & Morgan przyznała, że orzeczenia zostały „wymyślone” przez użyty w kancelarii program AI, przeprosiła, wycofała złożone pisma, pokryła koszty sądowe i wdrożyła nowe protokoły szkoleniowe. Grzywny nałożono na trzech prawników: dwaj otrzymali po 3 000 USD, jeden 1 000 USD. Samej kancelarii nie nałożono kary, ponieważ — jak wskazano — podjęła kroki, aby jej prawnicy w przyszłości niezależnie weryfikować treści generowane przez AI.

Wzorzec odpowiedzialności

Analiza tych spraw pokazuje wyraźny wzorzec:

• Odpowiedzialność ponosi prawnik, nie narzędzie. W żadnej z opisanych spraw sąd nie przyjął obrony „to narzędzie zmyśliło”. Generatywna AI nie zmienia obowiązku weryfikacji — jest to obowiązek zawodowy, istniejący niezależnie od użytych narzędzi.
• Brak weryfikacji obciąża. W sprawie z Indiany czynnikiem decydującym o wysokości kary był całkowity brak czynności weryfikacyjnych. Sędzia Dinsmore napisał w uzasadnieniu, że „przestawienie cyfr w cytacie, błędna data lub literówka to błąd”, natomiast „cytowanie orzeczenia, które po prostu nie istnieje, to coś zupełnie innego”.
• Reakcja kancelarii ma znaczenie. Kancelaria, która wdrożyła protokoły szkoleniowe i wycofała pisma, nie została ukarana. To sygnał, że sądy oczekują organizacyjnej reakcji, nie tylko indywidualnej.
• Sankcje rosną. Od 5 000 USD w 2023 roku do 15 000 USD w 2025 roku — sąd w Indianie otwarcie wskazał, że dotychczasowe kary nie wywierają dostatecznego efektu prewencyjnego.

Dobra praktyka: jak weryfikować

Sędzia w sprawie z Indiany posłużył się porównaniem AI do piły łańcuchowej: użyteczne narzędzie, które przy niewłaściwym zastosowaniu wyrządza istotne szkody. W tym duchu kształtuje się dobra praktyka:

• AI może służyć do wstępnej analizy, porządkowania argumentacji, szkicowania struktury pisma. Nie może być źródłem orzecznictwa.
• Każde powołanie na orzeczenie, akt prawny lub literaturę wymaga weryfikacji w niezależnym, urzędowym zbiorze — nie w tym samym narzędziu, które wygenerowało treść.
• „Stosowaniu sztucznej inteligencji musi towarzyszyć wykorzystanie inteligencji naturalnej” — to konkluzja z uzasadnienia w sprawie Ramireza, która najkrócej oddaje istotę problemu.

Kontekst polski

W polskiej praktyce obowiązek weryfikacji powoływanych źródeł wynika z podstawowych obowiązków zawodowych adwokata i radcy prawnego (staranność i rzetelność zawodowa). Polskie sądy dopiero zaczynają mierzyć się z tym problemem — głośne sprawy amerykańskie pełnią tu rolę ostrzegawczą. Narzędzia AI bywają użyteczne w wstępnej analizie, ale zasada pozostaje ta sama: cytat, którego nie da się zweryfikować w urzędowym zbiorze, nie może trafić do pisma procesowego.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty ze zweryfikowanych źródeł.