Upadek medycznego jednorożca: dlaczego zawiodła sztuczna inteligencja do triage'u
Aplikacja obiecująca triage lepszy od lekarza trafiła pod ostrzał regulatora za bezpieczeństwo, a firma runęła. Historia ostrzeżeń dla health-techu.
6 artykułów
Aplikacja obiecująca triage lepszy od lekarza trafiła pod ostrzał regulatora za bezpieczeństwo, a firma runęła. Historia ostrzeżeń dla health-techu.
W teście na 5 400 scenariuszach klinicznych modele AI powtarzały fałszywe informacje wprowadzone w zapytaniu w 50–82% przypadków. Nawet najlepsze z nich — przy domyślnych ustawieniach — nie przekraczały progu 50% poprawnych odpowiedzi.
Algorytmy rozpoznawania obrazów medycznych weszły do rutyny diagnostycznej szybciej niż procedury ich audytu. W 2026 roku pojawiają się udokumentowane przypadki błędów AI, których żaden ludzki radiolog nie powinien popełnić — fałszywe pozytywy, halucynacje zmian oraz nadmierna ufność klinicystów.
Model ostrzegający przed sepsą, wdrożony w setkach szpitali, w niezależnej walidacji wykrywał zaledwie część przypadków. Lekcja o walidacji zewnętrznej.
Rejestry regulacyjne dokumentują cofnięcia produktów medycznych z AI. Co mówią te przypadki o testowaniu przed certyfikacją i monitoringu po niej.
Algorytmy diagnozują szybciej niż lekarze, ale kto odpowiada za błąd? Analiza przypadków, w których AI w medycynie zaszkodziło — i dlaczego zaufanie do algorytmów może być niebezpieczne.