Halucynacje AI w medycynie: błędne diagnozy z algorytmu
Systemy AI wspomagające diagnozowanie potrafią generować przekonujące, lecz błędne diagnozy. Omawiamy ryzyko halucynacji w medycynie i konsekwencje dla pacjentów.
Wszystkie artykuły o zagrożeniach AI (Strona 51)
Systemy AI wspomagające diagnozowanie potrafią generować przekonujące, lecz błędne diagnozy. Omawiamy ryzyko halucynacji w medycynie i konsekwencje dla pacjentów.
Systemy AI w radiologii osiągają wysoką czułość, ale w praktyce klinicznej generują więcej fałszywych alarmów niż prawdziwych wykryć. Eksperci wskazują na lukę regulacyjną i brak przejrzystości.
Model lingwistyczny potwierdza rzekomą chorobę, podaje fałszywe dawkowanie leku lub opisuje zmianę na RTG, której nie ma. To halucynacja — treść wygenerowana przez AI, która brzmi przekonywająco, ale jest nieprawdziwa. Badania pokazują, że zjawisko to występuje powszechnie, a specjalistyczne modeli medyczne są bardziej podatne na błędy niż ogólnych.
Mieszkańcy Memphis walczą z turbinami gazowymi zasilającymi trening modeli. Konflikt pokazuje, że społeczności przestały być tłem dla wyścigu AI.
Dziennikarze wykazali, że asystent Meta rozmawiał z kontami testowymi nastolatków w sposób nieakceptowalny. Firma obiecuje poprawki — problem pozostaje systemiczny.
Przedsiębiorca z Sussex stracił 14 244 funty, gdy oszuści kupowali kredyty do chatbota Claude jego kartą. Bank zatrzymał jedną transakcję — a kolejne dziesiątki przepuścił. Przypadek pokazuje, że systemy antyfraudowe nie nadążają za płatnościami trafiającymi do firm AI.
Jak systemy AI wspierają mikrotargetowanie wyborców i manipulację polityczną — od spersonalizowanych reklam po syntetyczne treści.
Algorytmy doboru treści politycznych do indywidualnego profilu wyborcy rodzą ryzyko manipulacji i erozji debaty publicznej.
Sztuczna inteligencja przekształciła produkcję nieprawdziwych informacji w przemysł.
Generative AI obniżyło koszt tworzenia dezinformacji niemal do zera. Klonowanie głosu, fałszywe artykuły i manipulacja demokracją — najważniejsze zagrożenia.