Halucynacje AI: dlaczego sztuczna inteligencja pewnie siebie zmyśla fakty

Kiedy pewność zastępuje prawdę

W maju 2023 roku prawnik Steven Schwartz z nowojorskiej kancelarii Levidow, Levidow & Oberman złożył do sądu wniosek o odszkodowanie dla swojego klienta. Opierał się na orzeczeniach poprzednich spraw, cytował konkretne paragrafy i numery akt. Problem polegał na tym, że żadna z przytoczonych spraw nie istniała. ChatGPT, z którego korzystał prawnik, wygenerował sześć całkowicie zmyślonych orzeczeń, podając nazwiska sędziów, daty i fragmenty uzasadnień. Sędzia P. Kevin Castel nałożył na kancelarię sankcję w wysokości pięciu tysięcy dolarów i zarzucił jej brak weryfikacji źródeł.

Ta sprawa nie jest odosobniona. Zjawisku nadały nazwę halucynacje modeli językowych — termin, który szybko wszedł do języka potocznego, choć technicznie nie ma nic wspólnego z ludzkim zaburzeniem percepcji. Chodzi o sytuację, w której model generuje tekst brzmiący przekonująco, ale faktycznie błędny: nieistniejące książki, wymyślone badania naukowe, zmyślone biografie, fałszywe statystyki.

Skąd biorą się halucynacje

Aby zrozumieć, dlaczego tak się dzieje, trzeba spojrzeć na to, jak działają współczesne duże modele językowe. Systemy takie jak GPT-4, Claude czy Gemini nie są bazami danych i nie wyszukują informacji w sposób, w jaki robi to wyszukiwarka. Ich istotą jest przewidywanie kolejnego elementu w sekwencji — słowo po słowie, na podstawie rozkładu prawdopodobieństwa wyniesionego z treningu na miliardach tekstów.

Model nie wie, co jest prawdą, a co zmyśleniem. Wie jedynie, jakie słowa najczęściej występują po sobie w określonym kontekście. Jeżeli pytamy o badanie opublikowane w piśmie Nature, model wygeneruje tekst w stylu artykułu naukowego — z cytatami, danymi i wnioskami — nawet jeśli takie badanie nigdy nie ujrzało światło dzienne. Z perspektywy statystyki taki tekst jest po prostu najbardziej prawdopodobną kontynuacją naszego pytania.

Trzy kategorie halucynacji

Badacze z Uniwersytetu Kalifornijskiego w Berkeley zaproponowali klasyfikację błędów modeli językowych. Pierwsza kategoria to halucynacje faktograficzne — model podaje informacje sprzeczne ze stanem faktycznym, jak twierdzenie, że Hieronim Bosch był malarzem flamandzkim albo że Warszawa leży nad Wisłą. Druga to halucynacje referencyjne — model cytuje źródła, które nie istnieją, jak zmyślone strony z prawdziwych książek albo artykuły, których autorzy nigdy nie napisali. Trzecia kategoria to halucynacje logiczne — model prowadzi rozumowanie poprawne formalnie, ale oparte na fałszywych założeniach, czego efektem są absurdalne wnioski.

Z perspektywy użytkownika wszystkie trzy kategorie są równie groźne. Model, który zmyśla fakt, model, który wymyśla cytat i model, który poprawnie argumentuje z fałszywych przesłanek — każdy z nich przekazuje informację, na której nie można polegać.

Kontekst zawodowy: medycyna i prawo

Im wyższa stawka zawodowa, tym większe ryzyko związane z halucynacjami. W medycynie wdrożenie modelu jako wsparcia decyzyjnego bez rygorystycznej weryfikacji zagraża bezpieczeństwu pacjenta. Model zapytany o interakcje leków może podać prawidłowy skutek, ale może też wygenerować zmyślony, lecz brzmiący wiarygodnie zapis, który dla lekarza nietrudnego przepisać będzie jednoznacznie nie.

Najbardziej spektakularny przykład pochodzi z dziedziny prawa. W czerwcu 2024 roku brytyjski prawnik reprezentujący klienta w sporze z liniami lotniczymi zawnioskował o kosztorys oparty na dokumentach wygenerowanych przez ChatGPT. Okazało się, że co najmniej cztery z pięciu przytoczonych orzeczeń były wymyślone. Sąd odmówił przyjęcia kosztorysu, a sprawa zyskała rangę precedentu.

Rozwiązania techniczne i ich granice

Twórcy modeli stosują dziś kilka strategii ograniczania halucynacji. Najważniejsze z nich to:

• Wzmocnienie przez sprzężenie zwrotne od ludzi (reinforcement learning from human feedback), w którym anotatorzy oceniają odpowiedzi modelu i korygują błędy.
• Generacja wspomagana wyszukiwaniem (retrieval-augmented generation), w której model najpierw pobiera rzeczywiste dokumenty i na ich podstawie formułuje odpowiedź.
• Wymuszanie narzędzi zewnętrznych, takich jak kalkulatory, wyszukiwarki i interpretery kodu, ograniczające swobodę modelu do bezpiecznych sfer generowania tekstu.

Żadne z tych rozwiązań nie eliminuje halucynacji całkowicie. Model nadal może zmyślić fakt w kontekście, w którym kilkanaście referencji poprawnych projektuje wektorowy rozkład prawdopodobieństwa w kierunku fałszywej odpowiedzi. Badania Microsoft Research z 2024 roku wskazują, że na najpopularniejszych benchmarkach sprawdzających fakty modele nie redukują liczby halucynacji poniżej wartości dwucyfrowej w procentach — mimo obecności mechanizmów wyszukiwania.

Wymóg odpowiedzialności

Konkluzja jest brutalna: nieodpowiedzialne poleganie na modelu językowym w zadaniach wymagających wiarygodności jest dziś rzucaniem kostką. Każda odpowiedź, w której model powołuje się na źródło, wymaga samodzielnej weryfikacji u pierwotnego źródła. Niezależnie od tego, jak pociągająca i spójna brzmi odpowiedź — jej autorytet ogranicza się do statystycznego prawdopodobieństwa, nie do prawdy.

W erze, w której informacja staje się towarem masowym, halucynacje AI uświadamiają nam wartość czegoś, czego maszyny nie mają: odpowiedzialności. Model nie odpowiada za to, co powiedział. Odpowiada operator, który zdecydował się na jego użycie.