Halucynacje AI w medycynie: kiedy diagnostyka się myli

Halucynacje AI w medycynie: kiedy diagnostyka się myli

Sztuczna inteligencja w diagnostyce medycznej potrafi tworzyć wyniki, które wydają się przekonujące, ale są fałszywe. FDA nazywa to halucynacją: błędy, które są wiarygodne, lecz nie opierają się na rzeczywistych danych. W praktyce oznacza to, że model może wygenerować strukturę anatomiczną, która nie istnieje, pominąć zmianę, która jest istotna, lub podać nieprawidłową laterację — i zrobić to z taką precyzją, że even doświadczony lekarz może się na nim zgodzić.

Badanie opublikowane w 2025 roku przez FDA w Journal of Artificial Intelligence in the Life Sciences definiuje halucynację jako podzestaw błędów o charakterze „prawdopodobnym”. Dzielą się na halucynacje Impactfull — które negatywnie wpływają na działanie urządzenia — oraz benign — bez znaczenia. Kluczowe: błędy, które są zbyt oczywiste, by je zbagatelizować, nie są halucynacjami. To, co sprawia problem, to właśnie te, które są na tyle przekonujące, że omijają tradycyjne mechanizmy kontroli.

W praktyce klinicznej ryzyko jest realne. Jensen i wsp. (Radiology, 2022) wykazali, że obrazy rekonstruowane przez AI otrzymywały wyższe oceny subiektywnej jakości, ale miały gorszą czułość wykrywania przerzutów w wątrobie. Estetyka zastąpiła diagnostykę. Podobnie, model decyzyjny wsparcia klinicznego (CDSS) może nieprawidłowo klasyfikować wyniki imaging o 8–12 proc. w warunkach brzegowych, nawet gdy wynosi pewność siebie pozostaje wysoka. Ta rozbieżność między certainty a correctness jest tym, co regulatory uznają za kluczowy wskaźnik ryzyka.

Regulatory reagują warstwowo. FDA podkreśla podejście oparte na cyklu życia produktu (Total Product Lifecycle) i wymaga, by zarządzanie halucynacjami było ciągłym obowiązkiem, a nie checklistą przed wprowadzeniem na rynek. Unia Europejska przez MDR i IVDR klasyfikuje systemy AI stosowane w diagnostyce jako wysokiego ryzyka, wymagające mitigacji bias, przezroczystości i nadzoru ludzkiego. NIST opracowuje słownik ryzyków, który ma ujednolicić ocenę kontroli.

Co można zrobić? Po pierwsze — weryfikacja i walidacja (V&V) z uwzględnieniem edge case’ów. Po drugie — audytowalne ścieżki danych (data provenance), które pozwalają śledzić, kto, kiedy i dlaczego podjął decyzję. Po trzecie — human-in-the-loop: systemy muszą wskazyć, kiedy ich wynik nie jest pewny, i oddawać decyzję lekarzowi. Bez tych zabezpieczeń, sztuczna inteligencja w medycynie może nie tyle zastąpić lekarza, co podwać jego autorytet — a to jest ryzyko, które trudniej naprawić niż błąd diagnostyczny.

Oznaczenie treści AI

Ten powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.