AI w diagnostyce medycznej — kiedy algorytm się myli
Wsparcie, które może zaszkodzić
W szpitalach na całym świecie komputery zaczynają stawiać diagnostykę wyżej od doświadczenia lekarza. Algorytmy analizują prześwietlenia, badania krwi, zapisy EKG i obrazy z tomografu — szybciej, bez zmęczenia, bez przerwy na sen. Iczęsto mają raczę. Ale nie zawsze.
Kiedy system się myli
Systematyczny review opublikowany w 2024 roku analizujący błędy algorytmów AI w mammografii wskazał cztery rodzaje errorów. Najczęściej zgłaszane to wyniki fałszywie dodatnie (false positive) i fałszywie ujemne (false negative). Badanie z 2023 roku w JAMA pokazało, że systemy AI pracujące wespół z radiologiem w triage mammograficznym mają podobny wskaźnik recallów i fałszywych alarmów jak standardowe odczytywanie przez dwóch lekarzy — ale nie eliminują one błędów całkowicie. Algorytmy wciąż pomijają zmiany o niskim stopniu zaawansowania, zwłaszcza gdy model nie został wytrenowany na populacjach reprezentujących lokalny profil pacjentów.
Czarna dziura odpowiedzialności
Kto odpowiada, gdy algorytm pominie guza? Lekarz, który zaufał systemowi? Firma, która go stworzyła? Szpital, który go zakupil? Systematyczny review opublikowany w 2024 roku w Journal of Medical Internet Research wskazuje, że odpowiedź prawna wciąż nie istnieje. W USA sąd w 2024 roku rozpatrywał sprawę, w której algorytm AI przyczynił się do opóźnionej diagnozy raka — ale wyrok nie ustanowił precedensu. Apelacja jest w toku. W Polsce nie ma jeszcze żadnego wyroku w tej kwestii. Prawnicy wskazują, że przy algorytmach typu black box (gdzie nawet producent nie rozumie, jak podjął daną decyzję) trudno przypisać winę konkretnemu podmiotowi.
Co robić
Eksperci od AI w medycynie podają jedno: algorytm to narzędzie, nie zastępca. Wsparcie AI jest najcenniejsze, gdy lekarz traktuje go jako drugą opinię, a nie jako jedyną. Wymaga to szkolenia lekarzy w odczytywaniu wyników AI — czego w polskich uczelniach medycznych wciąż brakuje.
Oznaczeniecontents AI
Ten powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagowany agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
