Błędy diagnostyczne AI: kiedy algorytm myli się w leczeniu
Wstęp
Sztuczna inteligencja w medycynie obiecuje szybszą, precyzyjniejszą diagnostykę. Ale obietnice te mają cień: błędy AI w diagnostyce bezpośrednio dotykają pacjentów. Badanie opublikowane w NEJM AI w 2025 roku dowodzi, że even doświadczeni lekarze, przeszkoleni w krytycznym ocenianiu wyników AI, są podatni na błędy, gdy algorytm ich zwodzi.
Badanie z Pakistanu
Zespół z Lahore University of Management Sciences przeprowadził randomizowane badanie kliniczne (RCT). 44 lekarzy ukończyło 20-godzinne szkolenie z AI literacy. Następnie losowo podzielono ich na dwie grupy: jedną diagnosticzono z użyciem modelu językowego, drugą – bez. Grupa narażona na błędne sugestie LLM uzyskała mean diagnostic accuracy 73,3 proc. – o 14 punktów proc. mniej niż grupa kontrolna (84,9 proc.). Różnica jest statystycznie znacząca (p < 0,0001).
Automatyzacja błędu
Zjawisko ma nazwę: automation bias – tendencja do nadmiernego zaufania wynikom automatycznych systemów. Lekarze, którzy wiedzieli, że mogą zignorować wynik AI, i tak robili to częściej, niż bywaliby. To nie jest kwestia niekompetencji – to mechanizm poznawczy, który even szkolenie nie usuwa całkowicie. W praktyce klinicznej oznacza to, że systemy diagnostyczne wspomagane AI mogą wyrządzanie szkody even przy dobrych intencjach.
Skala problemu w praktyce
W prawdziwych warunkach benchmarkowe accuracy modelów sięga 94,5 proc., ale wdrożenie w szpitalu often spada o 15–30 punktów proc. z powodu zmian w populacji pacjentów i barier integracyjnych. Badanie z JAMA (2023) wskazuje, że błędy diagnostyczne AI w opiece nad pacjentami z mniejszościami są o 31 proc. częstsze niż u pacjentów majority. To nie jest kwestia jednego modelu – to systemowy problem.
Kto odpowiada
Pytanie o odpowiedzialność pozostaje otwarte. Deweloperzy projektują algorytm, ale rzadko spotykają się z rzeczywistością kliniczną. Szpitale wdrażają narzędzia, ale rzadko mają procedury monitorowania i reakcji na incydenty. Pacjenci nie są informowani, że AI brała udział w ich diagnozie. Brak jasnego podziału odpowiedzialności – to tzw. accountability gap, który even dobre regulacje trudno wypełnić.
Co robić
Eksperci z Frontiers in Medicine (2025) proponują wielowymiarowy framework: monitoring bias w czasie rzeczywistym, dashboards interpretowalności oraz prawne ramy shared accountability. Kluczowe: AI nie zastępuje lekarza – wspiera go. Wszelkie wyniki AI muszą być weryfikowane przez człowieka. Bez tego – diagnostyka AI staje się zagrożeniem, nie ułatwieniem.
Podsumowanie
AI w medycynie ma ogromny potencjał, ale błędy diagnostyczne są bezpośrednim ryzykiem dla życia pacjentów. Automatyzacja błędu, bias danych i niejasna odpowiedzialność – to wyzwania, które wymagają rozwiązań technicznych, etycznych i prawnych. Bez przejrzystości i kontroli ludzkiej, AI w diagnostyce może wyrządzić więcej szkody niż pomóc.
Oznaczenie treści AI
Ten powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
