AI w diagnostyce medycznej: obietnica precyzji a ryzyko błędu systemowego

Sztuczna inteligencja w medycynie przestała być perspektywą — jest codziennością. Systemy AI wspomagają radiologów w wykrywaniu guzów płuca na tomografii, kardiologów w interpretacji EKG, patomorfologów w ocenianiu preparatów histopatologicznych. FDA (amerykańska agencja ds. leków i żywności) zatwierdziło do tej pory ponad 900 urządzeń medycznych z komponentem AI/ML, a EMA (europejska agencja) prowadzi rejestr analogicznych technologii. Z wdrożeniem rosną jednak pytania, na które prawo i etyka nie nadążają z odpowiedziami.

Gdy algorytm popełnia błąd diagnostyczny

W 2023 r. The Lancet Digital Health opublikowało meta-analizę 81 badań porównujących AI z lekarzami w diagnostyce obrazowej. Średnia czułość (sensitivity) modeli wynosiła 87%, specyficzność 92% — wyniki porównywalne ze specjalistami. Jednak błędy AI mają inną naturę: model może nie zauważyć guza, bo nie widział podobnego przypadku w danych treningowych (problem out-of-distribution), albo zakwalifikować artefakt skanowania jako nowotwór (fałszywe pozytywy). Lekarz potrafi uzasadnić decyzję kontekstem klinicznym; sieć neuronowa — nie.

W Polsce systemy wspomagania diagnostyki (np. moduły AI w PACS — Picture Archiving and Communication Systems) są wdrażane w szpitalach wojewódzkich i onkologicznych. Nie istnieje jednak krajowy rejestr incydentów związanych z AI w opiece zdrowotnej. Gdy pacjent otrzymuje opóźnioną diagnozę raka, bo algorytm „nie zwrócił uwagi” na zmianę na wcześniejszym badaniu, trudno ustalić przyczynowość: wina lekarza, który zaufał systemowi, czy dostawcy oprogramowania, który nie przewidział tego przypadku?

Luka odpowiedzialności prawnej

Prawo polskie (Kodeks cywilny, Ustawa o działalności lekarza i lekarza dentysty, Kodeks postępowania karnego) nie przewiduje subiektywności prawnej systemu AI. Odpowiedzialność za błąd medyczny ponosi lekarz lub podmiot leczniczy. Producent oprogramowania chroni się klauzulami w umowie licencyjnej: system jest „wsparciem decyzyjnym”, ostateczną decyzję podejmuje lekarz. To przenosi ryzyko na pracownika medycznego, który — pod presją czasu i obciążeniem pacjentami — może traktować rekomendację AI jako bindingową.

Rozporządzenie UE o AI (AI Act) klasyfikuje systemy AI do diagnostyki medycznej jako wysokie ryzyko (załącznik III, pkt 5.1). Wymaga: systemów zarządzania ryzykiem, zarządzania jakością danych, ludzkiego nadzoru, dokładności, niezawodności i cyberbezpieczeństwa. Producent musi przeprowadzić ocenę zgodności (z participation notyfikowanego organu dla klas IIa/IIb/III MDR) i wydać deklarację zgodności UE. W Polsce organem nadzorczym jest Urząd Rejestracji Produktów Medycznych, Wyrobów Medycznych i Produktów Biobójczych (URPLWMiPB). Do 2024 r. URPL nie wydało jednak jasnego stanowiska, jak weryfikować ciągłe uczenie się modeli (continuous learning) po wdrożeniu — co jest standardem w nowoczesnych systemach AI.

Uprzedzenia w danych treningowych: medycyna nie jest dla wszystkich równa

Większość zbiorów danych treningowych dla AI medycznego pochodzi z krajów wysoko rozwiniętych, z populacji bialych, średniego wieku, z dostępem do dobrej opieki. Badanie z 2021 r. (JAMA Network Open) przeanalizowało 23 zbióry danych do radiologii AI: 71% pacjentów pochodziło z USA, 13% z Chin, 6% z Europy. Tylko 3% z Afryki, Ameryki Łacińskiej i Bliskiego Wschodu łącznie.

Konsekwencje są mierzalne. Algorytm do wykrywania melanoma wytrenowany na skórze białej ma drastycznie gorszą czułość na skórze ciemnej (badanie MIT/Stanford 2020: spadek czułości z 94% do 62%). Systemy predykcji ryzyka zawału serca oparte na danych z badań Framingham Heart Study (głównie populacja biała) źle kalibrują ryzyko u osób afrykańskoamerykańskich i azjatyckich. W Polsce, gdzie baza pacjencka jest dość jednorodna etnicznie, problem ten może wydawać się marginalny — ale systemy AI wdrażane w naszych szpitalach są często trenowane na danych zagranicznych i niewalidowane na polskiej populacji.

Czarne skrzynki w decydujących o życiu systemach

Wielu modeli AI w medycynie to głębokie sieci neuronowe, których decyzje trudno wyjaśnić (black box). Techniki explainable AI (Grad-CAM, SHAP, LIME) pokazują, na jakich fragmentach obrazu model „patrzył”, ale nie wyjaśniają dlaczego. W 2022 r. FDA wydało projekt przewodnika Good Machine Learning Practice, zalecając, by producenci dostarczały informacje o ograniczeniach modelu, grupach, na których nie był testowany, i procedurach monitorowania wydajności w czasie (post-market surveillance).

W praktyce lekarze otrzymują gotowy moduł w systemie PACS z przyciskiem „Uruchom AI”. Nie mają dostępu do wag modelu, macierzy pomyłek na podgrupach pacjentów, ani historii aktualizacji. Gdy producent wypuszcza nową wersję modelu (np. poprawiającą wykrywanie guzów, ale pogarszającą specyficzność), szpital może nie być o tym poinformowany w czasie.

Sepsa, triaż i autonomia decyzyjna

Najbardziej kontrowersyjne są systemy podejmujące decyzje w czasie rzeczywistym: alerty sepsy (np. Epic Sepsis Model w USA), triaż na oddziałach ratunkowych, dozowanie leków. Badanie University of Michigan (2021) wykazało, że powszechnie wdrażany model sepsy generował alerty u 18% hospitalizowanych, z czego tylko 12% to prawdziwa sepsa — reszta to fałszywe alarmy, zmęczające personel (alert fatigue). Jednocześnie model nie wykrywał 67% przypadków sepsy u pacjentów, którzy nie spełniali kryteriów SIRS (zapalenie układu krwionośnego) na wejściu.

W Polsce Ministerstwo Zdrowia pilotuje systemy wspomagania triażu w SOR. Algorytm przypisuje pacjentowi kategorię priorytetu (czerwony, pomarańczowy, żółty, zielony, niebieski) na podstawie parametrów witalnych i wywiadu. Lekarz ratownika ma prawo nadpisać decyzję, ale psychologia automatyzacji (tzw. automation bias) sprawia, że ludzie rzadziej kwestionują rekomendację maszyny, zwłaszcza pod stresem.

Co zmieniać, by AI w medycynie było bezpieczniejsze

1. Krajowy rejestr incydentów AI w opiece zdrowotnej — analogiczny do systemu zgłaszania zdarzeń niepożądanych w transplantologii, prowadzony przez URPL lub Ministerstwo Zdrowia.
2. Obowiązkowa walidacja na polskiej populacji przed wdrożeniem w szpitalu publicznym — nie tylko certyfikat CE/FDA.
3. Transparentność modelu dla lekarza — dostęp do macierzy pomyłek na podgrupach (wiek, płeć, choroby współistniejące), historii wersji, procedury rollback.
4. Odpowiedzialność producenta — zmiana prawa tak, by dostawca AI medycznego ponosił odpowiedzialność cywilnoprawną za wady oprogramowania (analogia do odpowiedzialności producenta za wady produktu).
5. Edukacja kadr medycznych — kursy z AI literacy w programie studiów lekarskich i specjalizacjach, by lekarze potrafili krytycznie oceniać rekomendacje systemów.

Medycyna oparta na dowodach (evidence-based medicine) wymaga dowodów również na skuteczność i bezpieczeństwo AI. Do ich uzyskania potrzebne są: otwarte dane, niezależne audyty, prawo do wyjaśnienia i jasny podział odpowiedzialności. Bez tego pacjent staje się niewolnym beta-testerem algorytmów, których błędy liczone są w ludzkich życiach.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.