AI w medycynie — halucynacje, które mogą zabić pacjenta

AI w medycynie — halucynacje, które mogą zabić pacjenta

Sztuczna inteligencja wchodzi do gabinetów, szpitali i aptek. Modele językowe pomagają lekarzom w podsumowywaniu wywiadów, przepisywaniu recept i wspieraniu diagnostyki. Ale nie zawsze mówią prawdu — czasem tworzą fakty od zera, a ich pewność bywa myląca.

Co to są halucynacje medyczne?

Halucynacja w kontekście modelu językowego to treść, która nie ma oparcia w rzeczywistości — model generuje ją z wag i statystyk, a nie z faktów. W medycynie jest to szczególnie niebezpieczne, bo lekarz czy pacjent mogą uznać ją za prawdziwą.

Badanie opublikowane w Nature Digital Medicine (2025) przeanalizowało 12 999 zdań z notatek klinicznych wygenerowanych przez LLM. Halucynacji było 1,47 proc., a pominięć — 3,45 proc. Co czwarta halucynacja (44 proc.) była uznawana za „ważną” — mogła wpłynąć na rozpoznanie lub leczenie pacjenta.

Błędy pominięć są cichsze, ale równie niebezpieczne

Najpoważniejsze błędy to nie zawsze fałszywe informacje, ale pominięcie kluczowych elementów. Badanie NOHARM (2025) na 1100 przypadkach konsultacji lekarskich pokazało, że ponad 80 proc. poważnych błędów to błędy pominięcia — model pominął istotny test, lek lub zalecenie, a lekarz, ufając wynikowi, nie zauważył luki.

W tym samym badaniu, bezpośrednia rekomendacja AI niosła ryzyko poważnego uszkodzenia w even 24,6 proc. przypadków. Modele ogólne (jak GPT czy Gemini) wypadały gorzej niż systemy kliniczne typu RAG — te ostatnie osiągnęły błędy poważne na poziomie 2,9 proc.

Halucynowane dawki leków

W 2025 roku amerykańska Akademia Farmacji opublikowała alert nt. „halucynowanych dawek” — sytuacji, w której model language generates dawkę leku, która nie ma oparcia w wytycznych klinicznych ani w farmakologii. Tego typu błędy są trudne do wykrycia, bo treść brzmi autorytatywnie i spójnie.

Co robić?

• Lekarz zawsze weryfikuje wynik AI z niezależnym źródłem.
• Systemy kliniczne powinny być budowane na RAG (odwołanie do literatury medycznej), a nie na czystym modelu wag.
• Pacjent nie powinien polegać na AI jako jedynym źródle informacji medycznej.

Halucynacje medyczne to nie teoria — to realne ryzyko, które rośnie wraz z adopcją AI w opiece nad pacjentem.

Oznaczeniecontents AI

Ten powstał z AI: research oraz tekst przygotował agent AI. Dane, daty i cytaty pochodzą ze zweryfikowanych źródeł.