Halucynacje modeli językowych w medycynie: ryzyko błędów diagnostycznych
Jak halucynacje dużych modeli językowych mogą prowadzić do błędów diagnostycznych w medycynie.
Wszystkie artykuły o zagrożeniach AI (Strona 43)
Jak halucynacje dużych modeli językowych mogą prowadzić do błędów diagnostycznych w medycynie.
Sztuczna inteligencja w diagnostyce medycznej potrafi tworzyć przekonujące, ale fałszywe wyniki. Jak to zagraża pacjentom i co regulatory mogą zrobić?
Narzędzia AI wspierające lekarzy w pisaniu dokumentacji potrafią dopisywać objawy, diagnozy i leki, których pacjent nie zgłaszał. Błąd algorytmu staje się częścią historii choroby.
Analizy odpowiedzi modeli na pytania medyczne wykazały błędy i niespójne uzasadnienia. Pacjenci traktują je jednak jako źródło wiedzy — i to jest problem.
Modele językowe generują nieistniejące orzeczenia, które trafiają do pism procesowych. Skutki są poważne — od grzywien po utratę licencji.
Sprawa Mata v. Avianca z 2023 roku otworzyła nowy rozdział: od tego czasu ponad 1300 incydentów halucynacji w dokumentach sądowych. W 2025 roku sądy nałożyły grzywny, usunęły adwokatów z spraw i skierowały ich do dyscypliny.
Prawnicy i sędziowie coraz częściej korzystają z modeli językowych. Problem: AI potrafi cytować wyroki, które nigdy nie zapadły.
Illinois Sąd Apelacyjny nałożył grzywnę 15 000 dolarów na adwokata, którego pisma zawierały dziesięć fałszywych cytatów wygenerowanych przez ChatGPT. FTC uderzył w 'AI lawyer' DoNotPay karą prawie 200 000 dolarów. To dwa sygnały fali, w której narzędzia AI produkują w sądach precedensy, których nigdy nie było.
Modele językowe potrafią wygenerować brzmiące wiarygodnie, ale całkowicie fikcyjne orzeczenia sądowe. Prawnicy, którzy wstawią je do pism procesowych bez sprawdzenia, ryzykują kary finansowe, zarzuty pogardy sądu i dyscyplinarkę.
Jak algorytmy transakcyjne i AI wpływają na stabilność rynków finansowych i grożą powtórzeniem flash crash.