#halucynacje

9 artykułów

Air Canada i chatbot, który zmyślił politykę biletową: kiedy firma odpowiada za to, co wymyśli sztuczna inteligencja
chatbot

Air Canada i chatbot, który zmyślił politykę biletową: kiedy firma odpowiada za to, co wymyśli sztuczna inteligencja

W lutym 2024 roku kanadyjski Civil Resolution Tribunal nakazał lini Air Canada wypłacić odszkodowanie pasażerowi i uszanować zbiórową politykę biletową, którą zmyślił jej support chatbot. Trybunał odrzucił linię obrony, że chatbot jest „osobnym podmiotem prawnym”. Sprawa Moffatt przeciwko Air Canada stała się precedensem odpowiedzialności firm za halucynacje sztucznej inteligencji w obsłudze klienta.

Apple Intelligence i zmyślone streszczenia: jak powiadomienia fałszywie poinformowały o samobójstwie podejrzanego i coming oucie tenisisty
apple-intelligence

Apple Intelligence i zmyślone streszczenia: jak powiadomienia fałszywie poinformowały o samobójstwie podejrzanego i coming oucie tenisisty

W grudniu 2024 roku streszczenie aplikacji BBC News wygenerowane przez Apple Intelligence informowało fałszywie, że Luigi Mangione popełnił samobójstwo. W styczniu 2025 roku BBC złożyło kolejną skargę, wskazując na fałszywe podsumowania dartera Luke'a Littlera oraz fałszywą informację o coming oucie Rafaela Nadala. W marcu 2025 roku wpłynął amerykański pozew zbiorowy Landsheft v. Apple, zarzucający fałszywą reklamę iPhone'a 16 z funkcjami AI, które nie istniały w momencie premiery.

Halucynacje AI w medycynie: kiedy algorytm zmyśla diagnozę
AI

Halucynacje AI w medycynie: kiedy algorytm zmyśla diagnozę

W teście na 5 400 scenariuszach klinicznych modele AI powtarzały fałszywe informacje wprowadzone w zapytaniu w 50–82% przypadków. Nawet najlepsze z nich — przy domyślnych ustawieniach — nie przekraczały progu 50% poprawnych odpowiedzi.

Halucynacje AI: dlaczego sztuczna inteligencja pewnie siebie zmyśla fakty
halucynacje

Halucynacje AI: dlaczego sztuczna inteligencja pewnie siebie zmyśla fakty

Modele językowe z pewnością siebie podają nieprawdziwe informacje, cytują nieistniejące orzeczenia i wymyślają referencje naukowe. Zjawisko halucynacji staje się jednym z najgroźniejszych problemów wdrożeniowych AI.

Lekarz Google 2.0: badania nad wiarygodnością porad medycznych z chatbotów
zdrowie

Lekarz Google 2.0: badania nad wiarygodnością porad medycznych z chatbotów

Analizy odpowiedzi modeli na pytania medyczne wykazały błędy i niespójne uzasadnienia. Pacjenci traktują je jednak jako źródło wiedzy — i to jest problem.

Sąd, którego nie ma: kiedy prawnik cytuje AI
prawo

Sąd, którego nie ma: kiedy prawnik cytuje AI

Sprawa Mata v. Avianca z 2023 roku otworzyła nowy rozdział: od tego czasu ponad 1300 incydentów halucynacji w dokumentach sądowych. W 2025 roku sądy nałożyły grzywny, usunęły adwokatów z spraw i skierowały ich do dyscypliny.

Chatbot urzędu miasta doradzał wbrew prawu: lekcja z Nowego Jorku
administracja

Chatbot urzędu miasta doradzał wbrew prawu: lekcja z Nowego Jorku

Oficjalny chatbot nowojorskiego urzędu informował przedsiębiorców, że mogą łamać przepisy. Sprawa pokazała ryzyko wdrażania LLM w administracji.

Pakiet, który nigdy nie istniał: halucynacje w kodzie i slopsquatting
kod

Pakiet, który nigdy nie istniał: halucynacje w kodzie i slopsquatting

Asystenci programistyczni wymyślają nazwy bibliotek — a przestępcy publikują złośliwe pakiety pod tymi nazwami. Nowy wektor ataku na deweloperów.

Halucynacje ChatGPT w sądzie: sprawa Mata v. Avianca i 1300 kolejnych przypadków
halucynacje

Halucynacje ChatGPT w sądzie: sprawa Mata v. Avianca i 1300 kolejnych przypadków

W maju 2023 roku adwokat Stephen Schwartz złożył w sądzie sześć fałszywych precedensów wygenerowanych przez ChatGPT. Sędzia P. Kevin Castel ukarał go grzywną 5000 dolarów. Do kwietnia 2025 roku baza AI Hallucination Cases odnotowała ponad 1300 podobnych incydentów w decyzjach prawnych.