#halucynacje

30 artykułów

Air Canada i chatbot, który zmyślił politykę biletową: kiedy firma odpowiada za to, co wymyśli sztuczna inteligencja
chatbot

Air Canada i chatbot, który zmyślił politykę biletową: kiedy firma odpowiada za to, co wymyśli sztuczna inteligencja

W lutym 2024 roku kanadyjski Civil Resolution Tribunal nakazał lini Air Canada wypłacić odszkodowanie pasażerowi i uszanować zbiórową politykę biletową, którą zmyślił jej support chatbot. Trybunał odrzucił linię obrony, że chatbot jest „osobnym podmiotem prawnym”. Sprawa Moffatt przeciwko Air Canada stała się precedensem odpowiedzialności firm za halucynacje sztucznej inteligencji w obsłudze klienta.

Apple Intelligence i zmyślone streszczenia: jak powiadomienia fałszywie poinformowały o samobójstwie podejrzanego i coming oucie tenisisty
apple-intelligence

Apple Intelligence i zmyślone streszczenia: jak powiadomienia fałszywie poinformowały o samobójstwie podejrzanego i coming oucie tenisisty

W grudniu 2024 roku streszczenie aplikacji BBC News wygenerowane przez Apple Intelligence informowało fałszywie, że Luigi Mangione popełnił samobójstwo. W styczniu 2025 roku BBC złożyło kolejną skargę, wskazując na fałszywe podsumowania dartera Luke'a Littlera oraz fałszywą informację o coming oucie Rafaela Nadala. W marcu 2025 roku wpłynął amerykański pozew zbiorowy Landsheft v. Apple, zarzucający fałszywą reklamę iPhone'a 16 z funkcjami AI, które nie istniały w momencie premiery.

Halucynacje chatbotów AI w poradach medycznych dla pacjentów
chatboty

Halucynacje chatbotów AI w poradach medycznych dla pacjentów

Pacjenci coraz częściej pytają chatboty AI o objawy i leczenie, ryzykując błędne porady.

Dezinformacja zdrowotna: gdy AI wymyśla diagnozy i leki
zdrowie

Dezinformacja zdrowotna: gdy AI wymyśla diagnozy i leki

Chatboty medyczne i generatywne AI potrafią wymyślać diagnozy, dawki leków i badania. Dezinformacja zdrowotna z AI stanowi rosnące zagrożenie dla pacjentów.

AI w diagnostyce medycznej: halucynacje, błędne diagnozy i odpowiedzialność
medycyna

AI w diagnostyce medycznej: halucynacje, błędne diagnozy i odpowiedzialność

Systemy AI coraz częściej wspierają lekarzy w diagnozowaniu pacjentów. Błędne rekomendacje i halucynacje modeli mogą prowadzić do niebezpiecznych pomyłek — kto odpowiada za błąd algorytmu?

AI w redakcjach — gdy algorytm pisze newsy i halucynuje fakty
dziennikarstwo

AI w redakcjach — gdy algorytm pisze newsy i halucynuje fakty

Redakcje coraz częściej używają AI do pisania i streszczania tekstów. Błędy i zmyślone fakty trafiają na strony, zanim ktokolwiek je zweryfikuje.

Halucynacje AI w medycynie: kiedy algorytm zmyśla diagnozę
AI

Halucynacje AI w medycynie: kiedy algorytm zmyśla diagnozę

W teście na 5 400 scenariuszach klinicznych modele AI powtarzały fałszywe informacje wprowadzone w zapytaniu w 50–82% przypadków. Nawet najlepsze z nich — przy domyślnych ustawieniach — nie przekraczały progu 50% poprawnych odpowiedzi.

Halucynacje AI: dlaczego sztuczna inteligencja pewnie siebie zmyśla fakty
halucynacje

Halucynacje AI: dlaczego sztuczna inteligencja pewnie siebie zmyśla fakty

Modele językowe z pewnością siebie podają nieprawdziwe informacje, cytują nieistniejące orzeczenia i wymyślają referencje naukowe. Zjawisko halucynacji staje się jednym z najgroźniejszych problemów wdrożeniowych AI.

Halucynacje AI w dokumentach prawnych: ryzyko dla spraw sądowych
prawo

Halucynacje AI w dokumentach prawnych: ryzyko dla spraw sądowych

Narzędzia AI potrafią generować przekonujące, lecz nieistniejące orzeczenia i przepisy, co zagraża sprawom sądowym.

AI w medycynie — halucynacje, które mogą zabić pacjenta
AI

AI w medycynie — halucynacje, które mogą zabić pacjenta

Modele językowe w medycynie nie tylko pomagają — czasem tworzą fakty od zera. Badania pokazują, że błędy AI w diagnostyce i przepisywaniu recept są powszechne i mogą skutkować poważnymi skutkami dla pacjentów.

Halucynacje AI w sądzie: kiedy program tworzy fałszywe orzeczenia
AI

Halucynacje AI w sądzie: kiedy program tworzy fałszywe orzeczenia

Sztuczna inteligencja potrafi tworzyć przekonujące, ale całkowicie fikcyjne cytaty prawne. Sądy coraz oftiej spotykają się z takimi wnioskami.

Halucynacje modeli językowych w medycynie: ryzyko błędów diagnostycznych
medycyna

Halucynacje modeli językowych w medycynie: ryzyko błędów diagnostycznych

Jak halucynacje dużych modeli językowych mogą prowadzić do błędów diagnostycznych w medycynie.

Halucynacje AI w medycynie: kiedy diagnostyka się myli
AI

Halucynacje AI w medycynie: kiedy diagnostyka się myli

Sztuczna inteligencja w diagnostyce medycznej potrafi tworzyć przekonujące, ale fałszywe wyniki. Jak to zagraża pacjentom i co regulatory mogą zrobić?

Halucynacje AI w dokumentacji medycznej: gdy algorytm dopisuje chorobę
medycyna

Halucynacje AI w dokumentacji medycznej: gdy algorytm dopisuje chorobę

Narzędzia AI wspierające lekarzy w pisaniu dokumentacji potrafią dopisywać objawy, diagnozy i leki, których pacjent nie zgłaszał. Błąd algorytmu staje się częścią historii choroby.

Lekarz Google 2.0: badania nad wiarygodnością porad medycznych z chatbotów
zdrowie

Lekarz Google 2.0: badania nad wiarygodnością porad medycznych z chatbotów

Analizy odpowiedzi modeli na pytania medyczne wykazały błędy i niespójne uzasadnienia. Pacjenci traktują je jednak jako źródło wiedzy — i to jest problem.

Halucynacje AI w prawnictwie: fikcyjne precedensy i ich konsekwencje
ai

Halucynacje AI w prawnictwie: fikcyjne precedensy i ich konsekwencje

Modele językowe generują nieistniejące orzeczenia, które trafiają do pism procesowych. Skutki są poważne — od grzywien po utratę licencji.

Sąd, którego nie ma: kiedy prawnik cytuje AI
prawo

Sąd, którego nie ma: kiedy prawnik cytuje AI

Sprawa Mata v. Avianca z 2023 roku otworzyła nowy rozdział: od tego czasu ponad 1300 incydentów halucynacji w dokumentach sądowych. W 2025 roku sądy nałożyły grzywny, usunęły adwokatów z spraw i skierowały ich do dyscypliny.

Halucynacje AI w sądach — gdy model wymyśla precedensy
prawo

Halucynacje AI w sądach — gdy model wymyśla precedensy

Prawnicy i sędziowie coraz częściej korzystają z modeli językowych. Problem: AI potrafi cytować wyroki, które nigdy nie zapadły.

Halucynacje AI w sądach: prawnicy i nieistniejące orzeczenia
halucynacje

Halucynacje AI w sądach: prawnicy i nieistniejące orzeczenia

Modele językowe potrafią wygenerować brzmiące wiarygodnie, ale całkowicie fikcyjne orzeczenia sądowe. Prawnicy, którzy wstawią je do pism procesowych bez sprawdzenia, ryzykują kary finansowe, zarzuty pogardy sądu i dyscyplinarkę.

Halucynacje w medycznym AI: gdy algorytm wymyśla diagnozę
medycyna

Halucynacje w medycznym AI: gdy algorytm wymyśla diagnozę

Systemy AI wspierające diagnozę medyczną mogą generować przekonujące, lecz fałszywe informacje. Artykuł omawia ryzyko halucynacji i sposoby ich ograniczania.

Halucynacje AI w medycynie: błędne diagnozy z modeli językowych
medycyna

Halucynacje AI w medycynie: błędne diagnozy z modeli językowych

Modele językowe generują błędne diagnozy i fałszywe odniesienia naukowe. Ryzyko dla pacjentów i lekarzy.

AI w medycynie: halucynacje modeli i ryzyko błędnej diagnozy
medycyna

AI w medycynie: halucynacje modeli i ryzyko błędnej diagnozy

Modele językowe wspierające diagnostykę potrafią zmyślać objawy, badania i rozpoznania — zagrażając pacjentom.

Halucynacje AI w medycynie: błędne diagnozy z algorytmu
medycyna

Halucynacje AI w medycynie: błędne diagnozy z algorytmu

Systemy AI wspomagające diagnozowanie potrafią generować przekonujące, lecz błędne diagnozy. Omawiamy ryzyko halucynacji w medycynie i konsekwencje dla pacjentów.

Halucynacje AI w medycynie: kiedy program mówi something, co nie jest prawdą
AI

Halucynacje AI w medycynie: kiedy program mówi something, co nie jest prawdą

Model lingwistyczny potwierdza rzekomą chorobę, podaje fałszywe dawkowanie leku lub opisuje zmianę na RTG, której nie ma. To halucynacja — treść wygenerowana przez AI, która brzmi przekonywająco, ale jest nieprawdziwa. Badania pokazują, że zjawisko to występuje powszechnie, a specjalistyczne modeli medyczne są bardziej podatne na błędy niż ogólnych.

Chatbot urzędu miasta doradzał wbrew prawu: lekcja z Nowego Jorku
administracja

Chatbot urzędu miasta doradzał wbrew prawu: lekcja z Nowego Jorku

Oficjalny chatbot nowojorskiego urzędu informował przedsiębiorców, że mogą łamać przepisy. Sprawa pokazała ryzyko wdrażania LLM w administracji.

Chatbot obsługi klienta, który kłamie: ryzyko halucynacji w kontaktach z firmą
chatbot

Chatbot obsługi klienta, który kłamie: ryzyko halucynacji w kontaktach z firmą

Firmy coraz częściej zastępują ludzkich konsultantów chatbotami opartymi na modelach językowych. Gdy bot wymyśla politykę zwrotów lub promocje, klient i firma ponoszą konsekwencje.

AI Overviews: kiedy wyszukiwarka sama się myli
wyszukiwarki

AI Overviews: kiedy wyszukiwarka sama się myli

Google wbudował generatywną AI w wyniki wyszukiwania. Kiedy odpowiedź brzmi pewnie, ale jest nieprawdziwa, użytkownik rzadko to zauważa — a konsekwencje sięgają od kuchennych bzdur po zdrowie i finanse.

Sądowe halucynacje: kiedy AI fałszuje orzeczenia
AI

Sądowe halucynacje: kiedy AI fałszuje orzeczenia

Dwóch sędziów amerykańskich dopuściło się wyroków napisanych z pomocą ChatGPT i Perplexity. Tekst zawierał fikcyjne cytaty i nieprawdziwe opisy precedensów. To nie izolowany wypadek — systemy AI stale wprowadzają błędy w najważniejszych dokumentach prawnych.

Pakiet, który nigdy nie istniał: halucynacje w kodzie i slopsquatting
kod

Pakiet, który nigdy nie istniał: halucynacje w kodzie i slopsquatting

Asystenci programistyczni wymyślają nazwy bibliotek — a przestępcy publikują złośliwe pakiety pod tymi nazwami. Nowy wektor ataku na deweloperów.

Halucynacje ChatGPT w sądzie: sprawa Mata v. Avianca i 1300 kolejnych przypadków
halucynacje

Halucynacje ChatGPT w sądzie: sprawa Mata v. Avianca i 1300 kolejnych przypadków

W maju 2023 roku adwokat Stephen Schwartz złożył w sądzie sześć fałszywych precedensów wygenerowanych przez ChatGPT. Sędzia P. Kevin Castel ukarał go grzywną 5000 dolarów. Do kwietnia 2025 roku baza AI Hallucination Cases odnotowała ponad 1300 podobnych incydentów w decyzjach prawnych.