AI w medycynie: gdy algorytm myli się w diagnozie

Systemy sztucznej inteligencji coraz częściej wspierają lekarzy w diagnozie obrazowej, analizie badań laboratoryjnych i prognozowaniu ryzyka. Obietnica jest kusząca: szybsze rozpoznanie, mniej przeoczonych przypadków, odciążenie przepracowanych specjalistów. Jednak za tą obietnicą kryje się ryzyko, które medycyna dopiero zaczyna rozumieć — algorytm może się pomylić, a konsekwencje błędu dotykają konkretnego pacjenta.

Gdzie AI pomaga, a gdzie myli

Narzędzia oparte na uczeniu maszynowym dobrze radzą sobie w zadaniach wąsko zdefiniowanych: wykrywanie zmian w mammografii, klasyfikacja zmian skórnych, ocena retinopatii cukrzycowej. Problem pojawia się, gdy system trafia na przypadki spoza danych, na których był trenowany — inny sprzęt, inna populacja pacjentów, inna jakość zdjęcia. Wtedy model może być pewny siebie i jednocześnie błędny.

Zjawisko to nazywa się “przesunięciem rozkładu” (ang. distribution shift). Algorytm uczy się wzorców z konkretnego zestawu danych i traci trafność, gdy rzeczywistość odbiega od tego wzorca. W medycynie odbieganie jest normą, nie wyjątkiem.

Problem “czarnej skrzynki”

Wiele modeli AI działa jak czarna skrzynka: podaje wynik, ale nie tłumaczy, jak do niego doszedł. Lekarz widzi “ryzyko wysokie”, ale nie wie, czy algorytm zwrócił uwagę na zmianę patologiczną, czy na artefakt zdjęcia. To utrudnia weryfikację decyzji i podważa zaufanie.

Regulatory i towarzystwa naukowe coraz częściej wymagają wyjaśnialności (ang. explainable AI). W praktyce jednak wyjaśnialność często jest kosmetyczna — mapa cieplna na zdjęciu nie mówi, dlaczego model zareagował właśnie tak, a nie inaczej.

Kto odpowiada za błąd

Gdy algorytm się pomyli, odpowiedzialność rozmywa się między kilka stron:

• Producent oprogramowania — za jakość modelu i dane treningowe.
• Szpital lub przychodnia — za wdrożenie, szkolenie personelu i procedury.
• Lekarz — za ostateczną decyzję kliniczną.

W wielu systemach prawnych lekarz pozostaje odpowiedzialny za decyzję, nawet gdy wspomagał się AI. To tworzy paradoks: lekarz ma odpowiadać za narzędzie, którego działania nie może w pełni zweryfikować. Pacjent natomiast ma prawo do jasnego wyjaśnienia, na jakiej podstawie postawiono diagnozę.

Ryzyko automatyzacji i rutyny

Im bardziej AI jest niezawodne w typowych przypadkach, tym większa pokusa, by lekarz przestał uważnie analizować wynik. Z czasem może dojść do “ślepoty automatyzacji” — tendencji do akceptowania sugestii systemu bez krytycznego namysłu. W medycynie to szczególnie niebezpieczne, bo błąd pojedynczej decyzji może kosztować życie.

Co można zrobić

• Traktować AI jako drugą opinię, nie jako arbitra.
• Wymagać od producentów transparentności danych treningowych i ograniczeń modelu.
• Prowadzić niezależne audyty kliniczne po wdrożeniu systemu.
• Edukować personel, żeby rozumiał, czego AI nie potrafi.
• Zapewnić pacjentom prawo do informacji i odwołania.

Sztuczna inteligencja może poprawić jakość opieki zdrowotnej, ale tylko wtedy, gdy jej ograniczenia są jawnie nazwane, a odpowiedzialność — jasno przypisana.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.