3 artykułów
Agent AI ma dostęp do repozytorium, dysku i powłoki — a architektura, w której działa, nie odróżnia poleceń od tekstu, który przeczyta. Skutki są już widoczne w produkcji.
Asystent głosowy sterujący oświetleniem, ogrzewaniem i żaluzjami zaczyna wykonywać polecenia, których nikt nie wydał. Hallucynacja modelu językowego w inteligentnym domu przestaje być zabawną anegdotą.
Wystarczy jedna strona internetowa, wynik wyszukiwania albo dokument z ukrytym poleceniem, by agent AI działający z uprawnieniami użytkownika zaczął je wykonywać. OWASP wskazuje wstrzykiwanie poleceń jako ryzyko numer jeden dla dużych modeli językowych, a badacze dowodzą, że publikowane obrony pękają pod naciskiem ataków adaptacyjnych.