Ciąża pod obserwacją: aplikacje menstruacyjne jako źródło dowodów w sądach
Po przełomie orzeczniczym w USA dane o cyklach i ciążach stały się potencjalnym materiałem dowodowym. Co warto wiedzieć o prywatności aplikacji zdrowotnych.
21 artykułów
Po przełomie orzeczniczym w USA dane o cyklach i ciążach stały się potencjalnym materiałem dowodowym. Co warto wiedzieć o prywatności aplikacji zdrowotnych.
Systemy sztucznej inteligencji w diagnostyce medycznej powtarzają i pogłębiają istniejące nierówności. Badania wskazują na znaczne różnice w dokładności między grupami demograficznymi.
Pacjenci pytają AI o objawy i leki — gdzie kończy się wygoda, a zaczyna ryzyko zdrowotne.
Chatboty zdrowotne doradzają pacjentom bez nadzoru medycznego. Omawiamy zagrożenia dla bezpieczeństwa pacjentów.
Chatboty medyczne i generatywne AI potrafią wymyślać diagnozy, dawki leków i badania. Dezinformacja zdrowotna z AI stanowi rosnące zagrożenie dla pacjentów.
Sztuczna inteligencja w diagnostyce medycznej obiecała zmniejszyć błędy. Niestety, badania pokazują, że systemy AI mogą same popełniać błędy o podobnym ciężarze.
Badanie z 2025 roku pokazuje, że lekarze even po szkoleniu z AI literacy mają 14 punktów proc. niższą accuracy, gdy algorytm podaje błędne sugestie.
Badania wskazują, że systemy AI w diagnostyce medycznej mogą popełniać błędy w ponad 10 proc. przypadków. Czynnikiem ograniczającym nie jest tylko technologia, ale also brak jasnej odpowiedzialności.
Systemy AI wspomagające diagnozę mogą błędnie klasyfikować objawy, szczególnie u grup niedoreprezentowanych w danych treningowych.
Systemy AI wspomagające diagnozę mogą przyspieszyć pracę lekarzy, ale błędy algorytmiczne i stronniczość danych mogą prowadzić do niewłaściwego leczenia.
W teście na 5 400 scenariuszach klinicznych modele AI powtarzały fałszywe informacje wprowadzone w zapytaniu w 50–82% przypadków. Nawet najlepsze z nich — przy domyślnych ustawieniach — nie przekraczały progu 50% poprawnych odpowiedzi.
Modele językowe w medycynie nie tylko pomagają — czasem tworzą fakty od zera. Badania pokazują, że błędy AI w diagnostyce i przepisywaniu recept są powszechne i mogą skutkować poważnymi skutkami dla pacjentów.
Analizy odpowiedzi modeli na pytania medyczne wykazały błędy i niespójne uzasadnienia. Pacjenci traktują je jednak jako źródło wiedzy — i to jest problem.
Sztuczna inteligencja w diagnostyce medycznej obiecała zmniejszyć błędy. Niestety, wprowadza nowe.
Model lingwistyczny potwierdza rzekomą chorobę, podaje fałszywe dawkowanie leku lub opisuje zmianę na RTG, której nie ma. To halucynacja — treść wygenerowana przez AI, która brzmi przekonywająco, ale jest nieprawdziwa. Badania pokazują, że zjawisko to występuje powszechnie, a specjalistyczne modeli medyczne są bardziej podatne na błędy niż ogólnych.
Popularny algorytm przydzielający opiekę używał kosztów leczenia jako miary potrzeb — i systematycznie pomijał czarnych pacjentów. Analiza słynnego badania.
Fundusz walczący z zaburzeniami odżywiania wycofał chatbota, gdy okazało się, że doradza chorym restrykcje. Lekcja o testowaniu systemów zdrowotnych.
Systemy AI wspomagające triage w szpitalach mogą popełniać błędy i utrwalać nierówności w dostępie do opieki.
Systemy AI oceniające wnioski ubezpieczeniowe mogą prowadzić do nieuzasadnionych odmów świadczeń.
Ubezpieczyciele coraz częściej używają AI do wyceny ryzyka i odmowy polis. Algorytmy analizują dane z urządzeń noszonych, historii lekarskiej i mediów społecznościowych. Pacjenci tracą kontrolę nad swoimi danymi zdrowotnymi, a dyskryminacja chorób przewlekłych staje się systematyczna.
Systemy AI wspomagające diagnozę mogą popełniać błędy, które trudno przypisać lekarzowi lub producentowi oprogramowania.