Halucynacje modeli językowych w medycynie: ryzyko błędów diagnostycznych

Duże modele językowe (LLM) coraz częściej wspierają lekarzy: podpowiadają diagnozy, streszczają historie choroby, sugerują leczenie. Narzędzia te potrafią przyspieszyć pracę i zmniejszyć obciążenie administracyjne. Problem w tym, że modele te potrafią generować odpowiedzi brzmiące wiarygodnie, lecz nieprawdziwe — tak zwane halucynacje.

W medycynie halucynacja może oznaczać zmyślony objaw, nieistniejące badanie czy błędne dawkowanie leku. Model nie „wie”, że się myli — formuluje płynną, pewną w tonie odpowiedź. Lekarz, który polega na narzędziu bez weryfikacji, może przyjąć błędną sugestię. Ryzyko rośnie, gdy system prezentowany jest jako autorystyczny, a nie jako pomocniczy.

Szczególnie niebezpieczne są sytuacje, w których model uzupełnia brakujące informacje na podstawie wzorców z danych treningowych. Jeśli w historii pacjenta brakuje kluczowego szczegółu, model może go „dopisać”, zamiast zasygnalizować niepewność. To zjawisko trudne do wykrycia, bo odpowiedź pozostaje spójna językowo.

Zabezpieczenia istnieją: ograniczanie odpowiedzi do źródeł, wymuszanie cytowania, oznaczanie niskiej pewności. Jednak żadne z nich nie eliminuje ryzyka całkowicie. Kluczowe jest podejście: AI w medycynie powinno działać jako narzędzie wspierające decyzję lekarza, nie jako jej zastępca. Ostateczna odpowiedzialność zawsze spoczywa na człowieku.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.