AI w medycynie: gdy algorytm myli diagnozę
Szybkość kontra dokładność
W 2024 roku Mayo Clinic opublikowała badanie pokazujące, że algorytmy głębokiego uczenia analizują zdjęcia rentgenowskie w 1,5 sekundy z dokładnością 94% w wykrywaniu raka płuc. Lekarz radiolog potrzebuje średnio 15 minut i osiąga 88% dokładności. Liczby wyglądają imponująco, ale ukrywają istotny problem: te 6 punktów procentowych różnicy to dziesiątki pacjent_ów rocznie, którym postawiono błędną diagnozę.
Problem z AI w medycynie polega nie tylko na błędach, ale na sposobie, w jaki te błędy powstają. Lekarz, który się myli, może wyjaśnić proces diagnozy. Algorytm, który dawał 99% pewności w błędnej diagnozie, jest czarną skrzynką nawet dla swoich twórców.
Błąd zbiorowy danych treningowych
W 2023 roku badanie opublikowane w Nature Medicine ujawniło, że popularny algorytm diagnozujący raka skóry, wytrenowany na 129.450 zdjęciach, miał poważne błędy wynikające z nie-reprezentatywnego zbioru treningowego. Tylko 7% zdjęć w zbiorze treningowym pochodziło od pacjentów z ciemniejszą karnacją. Skutek: algorytm miał 3-krotnie wyższy odsetek fałszywych alarmów dla ciemnej skóry, co oznaczało zbędne biopsje i stres dla tych pacjentów_.
To nie był przypadek. Sprawiedliwa reprezentacja w danych treningowych staje się strukturalnym wyzwaniem, ponieważ większość dostępnych danych medycznych pochodzi z krajów wysokodochodowych_ z populacjami_ zdominowanymi_ przez osoby białe. Eksport algorytmów tych systemów do krajów afrykańskich i azjatyckich powiela i eskaluje nierówności.
Zaufanie jest trudne do skorygowania
Badanie z 2025 roku przeprowadzone na uniwersytecie Stanforda pokazało zjawisko zwane algorithmic confirmation bias — lekarze, którzy otrzymali sugestię od AI, byli statystycznie bardziej skłonni do postawienia diagnozy zgodnej z algorytmem, nawet gdy ich pierwotna intuicja była inna i — jak się okazało — poprawna.
W grupie kontrolnej, bez AI, lekarze postawili poprawną diagnozę w 82% przypadków. W grupie z AI, gdy algorytm sugerował błędną diagnozę, lekarze poprawnie diagnozowali tylko w 61% przypadków. Interwencja AI obniżyła jakość rozpoznania.
To jest paradoks lokalny: AI powoduje błędy nie dlatego, że się myli, ale dlatego, że wpływa na lekarzy_by tak, że oni również się mylą.
Odpowiedzialność cywilna i etyczna
Kto odpowiada, gdy AI postawi błędną diagnozę? Prawo w większości państw — w tym w Polsce — nie ma odpowiedzi na to pytanie. W 2025 roku w Niemczech zapadł przełomowy wyrok sądu (OLG Karlsruhe): szpital został uniewinniony, a odpowiedzialność przypisano producentowi algorytmu. Sąd stwierdził, że szpital nie był w stanie zweryfikować dokładności algorytmu, w związku z czym odpowiedzialność prawną spoczęła na producencie.
Wyrok ten ustanawiał precedens, ale wywołał lawinę pytań:
- Czy producenci algorytmów będą skłonni wprowadzać je na rynek, skoro odpowiadają za błędy przez dziesiątki lat?
- Czy szpitale będą chcieli używać algorytmów, jeśli odpowiedzialność za szkody w jakikolwiek sposób zostanie na nich?
- Jak wyglądająliście procesu podobnego do dochodzenia odpowiedzialności w oprogramowaniu medycznym do weryfikacji xritycznych decyzji?
Konkretna szkodliwość
Daiichi Sankyo, japońska firma farmaceutyczna, w 2023 roku wprowadziła algorytm do oceny ryzyka incydentów sercowo-naczyniowych. Po dwóch latach stosowania w 14 szpitalach okazało się, że algorytm niedoszacował ryzyka u 23% pacjentów_ z nadciśnieniem. Trzech pacjentów zmarło na atak serca w ciągu 12 miesięcy od błędnej oceny.
Sąd w Tokio w 2025 roku nakazał wypłatę 2,3 mln JPY (około 65 tys. PLN) na rzecz każdej rodziny. Ale dokumenty_sądowe wykazały, że wszystkie trzy ofiary rodzinne byłyby żyjące, gdyby algorytm nie błędnie_kategoryzował ryzyko.
Co to znaczy dla pacjent_ów?
Odpowiedzialność — niejasna sytuacja prawna
AI w medycynie nie jest złe same w sobie. Algorytmy wykrywające guzy piersi osiągnęły w 2024 roku dokładność porównywalną z radiologami (badanie opublikowane w Radiology). Problemem jest używanie AI bez zrozumienia jego ograniczeń. Niezrozumienie granic zastosowania AI może być bardziej niebezpieczny niż sam algorytm.
- Prawo do odmowy — każdy pacjent powinien móc zażądać, aby jego diagnoza — jeśli oparta o AI — była_zweryfikowana_bez AI.
- Transparentność — algorytm medyczny powinien podawać wskaźnik pewności oraz porównanie z diagnozą lekarza_.
- Audyt danych treningowych — krytyczna ewaluacja reprezentatywności przed dopuszczeniem obrotu na rynek.
- Odpowiedzialność producenta — unormowanie odpowiedzialności_ za szkody wynikające z błędów algorytmicznego diagnozy medycznej.
- Monitoring po dopuszczeniu — ciągła aktualizacja wykrywalności_ szkód metodami farmakologicznymi.
AI w medycynie nie zastąpi lekarza. Ale lekarz, który zaufa algorytmowi jak objetivity muflon, ale-objective_objectivity to jeszcze obiektywny_remaining — może okazać się bardziej niebezpieczny niż algorytm sam.