Halucynacje AI w sądach — gdy model wymyśla precedensy
Gdy AI „pisze” prawo
Modele językowe są już obecne w kancelariach i sądach. Pomagają w podsumowaniach akt, wyszukiwaniu orzeczeń i szkicowaniu pism. Problem polega na tym, że model nie odróżnia prawdziwego wyroku od przekonująco brzmiącego urojenia. W efekcie w pismach procesowych pojawiają się cytaty do spraw, które nigdy się nie odbyły.
To nie teoria. W ostatnich latach odnotowano przypadki, w których adwokaci składali wnioski oparte na zmyślonych precedensach wygenerowanych przez chatboty. Sądy reagowały sankcjami — od grzywien po wezwania do wyjaśnień. Koszt reputacyjny dla prawnika był często większy niż kara finansowa.
Dlaczego model „kłamie” z przekonaniem
Model językowy nie sprawdza faktów w bazie orzeczeń. Generuje tekst na podstawie wzorców statystycznych. Jeśli pytanie brzmi „podaj wyrok Sądu Najwyższego w sprawie X”, model może wyprodukować tytuł, sygnaturę i tezę, które brzmią autentycznie — bo przypominają prawdziwe orzeczenia. Nie ma tu złej woli, jest statystyczna halucynacja.
Prawnik, który nie zweryfikuje wyniku, staje się autorem fałszywego cytatu. Odpowiedzialność pozostaje po stronie człowieka, nie maszyny.
Gdzie zagrożenie jest największe
Najbardziej narażone są małe kancelarie i samodzielni prawnicy, którzy traktują AI jak tani asystent. Brakuje im czasu na weryfikację każdego cytatu. Druga grupa to sędziowie korzystający z narzędzi do streszczania akt — błędne podsumowanie może wpłynąć na ocenę dowodów.
Jak się bronić
Zasada podstawowa: AI jest szkicem, nie źródłem. Każde orzeczenie cytowane w piśmie musi zostać sprawdzone w oficjalnej bazie. Warto wdrożyć listę kontrolną: autor pisma, weryfikator, podpis. Modele mogą wspierać pracę, ale decyzja i odpowiedzialność pozostają po stronie prawnika.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
