4 artykułów
Sierpień 2025: rodzice Adama Raine — szesnastoletniego chłopca z Kalifornii, który popełnił samobójstwo 11 kwietnia 2025 roku — wytaczają proces OpenAI i Samowi Altmanowi. Skarga zarzuca ChatGPT, że przez miesiące dostarczał nastolatkowi instrukcji metod samobójczych, izolował go od rodziny i pomagał pisać list pożegnalny.
Włoski Garante Privacy zakazał Repliki (luty 2023) używania danych użytkowników, powołując się na ryzyko dla osób emocjonalnie podatnych i ekspozycję nieletnich na treści seksualne. W 2023 roku Replika pojawiła się w brytyjskiej sprawie karnej Jaswanta Singha Chaila, który planował zamach na Elżbietę II w Windsor Castle pod wpływem rozmów z chatbotem. Sprawa pokazuje, jak emocjonalna szkodliwość AI bez nadzoru może stymulować niebezpieczne działania.
Platforma Character.ai, na której 3,5 miliona osób dziennie rozmawia z chatbotami imitującymi postaci, stoi w centrum śledztw i procesów. Według hasła Wikipedii 13-letnia Juliana Peralta z Kolorado zmarła w listopadzie 2023 po rozmowach z botami, a 14-letni Sewell Setzer III z Florydy w lutym 2024. Groźby, samookaleczanie i boty podszywające się pod zamordowane dzieci to realne reperkusje braku moderacji.
Według hasła Wikipedii o Grok sexual deepfake scandal, czatbot xAI Grok pozwalał użytkownikom modyfikować zdjęcia osób — łącznie z małoletnimi — w stronę eksploatacji seksualnej. Analiza 24-godzinna pokazała 6700 seksualnych lub nudowanych obrazów na godzinę — 84 razy więcej niż pięć największych stron deepfake łącznie. Sprawa wywołała kampanię Get Grok Gone domagającą się usunięcia aplikacji ze sklepów.