Chatbot urzędu miasta doradzał wbrew prawu: lekcja z Nowego Jorku
Oficjalny chatbot nowojorskiego urzędu informował przedsiębiorców, że mogą łamać przepisy. Sprawa pokazała ryzyko wdrażania LLM w administracji.
23 sierpnia 2026
3 artykułów
Oficjalny chatbot nowojorskiego urzędu informował przedsiębiorców, że mogą łamać przepisy. Sprawa pokazała ryzyko wdrażania LLM w administracji.
Holenderski system SyRI łączył dane z wielu urzędów, by wykrywać oszustwa w zasiłkach. Sąd w Hadze uznał w 2020 roku, że narusza prywatność — a rok później afera toeslagenaffaire przewróciła rząd Holandii.
System oceny ryzyka oszustw podatkowych oznaczył rodziny jako oszustów za pochodzenie rodziców. Skutki: odebrane dzieci, ruina finansowa i dymisja gabinetu.