Halucynacje AI w medycynie: kiedy algorytm zmyśla diagnozę
Algorytm, który mówi to, co chcesz usłyszeć
Wizja inteligentnego asystenta medycznego, który rozpozna objawy, zaproponuje diagnozę i zapobiegnie błędom lekarskim, przyciąga zarówno inwestorów, jak i systemy ochrony zdrowia szukające sposobów na obniżenie kosztów. Badanie opublikowane w Communications Medicine w 2025 roku wskazuje jednak na fundamentalny problem: duże modele językowe w warunkach klinicznych są podatne na ataki halucynacyjne — a ich skala jest znacznie większa, niż wcześniej sądzono.
Naukowcy stworzyli 300 symulowanych opisów przypadków medycznych, z których każdy zawierał jeden celowo wprowadzony błąd — fałszywy wynik badania laboratoryjnego, nieistniejący objaw fizyczny lub zmyśloną chorobę. Następnie przetestowano sześć modeli językowych, zadając im pytania na podstawie tych opisów. Wyniki były niepokojące: każdy z modeli powtarzał lub rozbudowywał fałszywą informację wprowadzoną w zapytaniu w 50 do 82 procent przypadków. Oznacza to, że więcej niż co drugie wyjście modelu zawierało nieprawdziwe dane medyczne — i to w warunkach kontrolowanych, gdzie badacze wiedzieli dokładnie, gdzie znajduje się błąd. W prawdziwej praktyce klinicznej, gdzie nie ma punktu odniesienia, wykrycie takiego błędu jest jeszcze trudniejsze.
Skąd się biorą zmyślenia
Modele językowe nie „myślą” w ludzkim sensie — przewidują następne słowo na podstawie wzorców w danych treningowych. Kiedy napotykają informację wprowadzoną w zapytaniu, traktują ją jako część kontekstu i rozwijają ją, dodając szczegóły, które brzmią przekonująco, ale nie mają pokrycia w rzeczywistości. To, co w języku technicznym nazywa się „halucynacją”, w praktyce klinicznej może oznaczać zmyśloną dawkę leku, wynalezioną interakcję między substancjami lub fałszywe powiązanie objawów z chorobą.
Globalna ankieta przeprowadzona w ramach badania wśród 70 lekarzy z 15 specjalności wskazuje, że 91,8% z nich zetknęło się z halucynacjami generowanymi przez AI w swojej praktyce. 84,7% respondentów uznało, że mogą one prowadzić do szkód u pacjentów. Te liczby nie dotyczą teoretycznych scenariuszy — lekarze opisują konkretne sytuacje, w których pacjent przychodzi z wydrukiem odpowiedzi chatbota, a zalecana „diagnoza” lub „lek” okazują się nieprawdziwe lub wręcz niebezpieczne.
Co istotne, specjalistyczne modele medyczne, takie jak MedGemma, wypadły gorzej niż modele ogólnego przeznaczenia — mimo dedykowanego treningu na danych medycznych. Wyniki wahają się od 28,6% do 61,9% poprawnych odpowiedzi, podczas gdy najlepsze modele ogólne osiągały ponad 97% dokładności w połączeniu z techniką rozmownego rozumowania. Sugeruje to, że bezpieczeństwo medyczne wynika raczej z zaawansowanych zdolności rozumowania niż z wąskiej specjalizacji.
Ryzyko dla pacjentów i odpowiedzialność
Halucynacje w kontekście medycznym nie są tym samym co błąd w researchu internetowym. Wysoka pewność modelu, przekonujący styl wypowiedzi i brak sygnałów niepewności sprawiają, że użytkownik — zarówno lekarz, jak i pacjent — może przyjąć fałszywą informację za prawdziwą. Wśród zidentyfikowanych typów błędów szczególnie niebezpieczne są halucynacje negacyjne — model opisuje działanie, które jest przeciwieństwem tego, co powiedział lekarz podczas konsultacji. Bez pełnego kontekstu rozmowy czytelnik może nie być w stanie stwierdzić, która wersja jest prawdziwa.
Dla systemów ochrony zdrowia oznacza to, że wdrożenie AI do dokumentacji klinicznej, wspomagania decyzji diagnostycznych lub automatycznych odpowiedzi dla pacjentów wymaga nie tylko walidacji technicznej, ale stałego nadzoru klinicznego. Redukcja halucynacji o połowę dzięki odpowiednim technikom promptowania to postęp, ale połowa błędów pozostaje niedopuszczalna w kontekście, w którym na szali leży ludzkie życie.
Wnioski
Badania z 2025 roku jednoznacznie pokazują, że modele językowe w medycynie nie są gotowe do samodzielnego podejmowania decyzji klinicznych. Mogą wspierać lekarza jako narzędzie robocze — o ile specjalista zachowuje kontrolę nad każdą odpowiedzią i traktuje ją jako hipotezę do weryfikacji, nie jako orzeczenie. Potrzeba systematycznych ram oceny bezpieczeństwa klinicznego, podobnych do tych stosowanych w certyfikacji wyrobów medycznych, zanim modele AI staną się standardowym elementem praktyki medycznej.
