5 artykułów
Agent AI ma dostęp do repozytorium, dysku i powłoki — a architektura, w której działa, nie odróżnia poleceń od tekstu, który przeczyta. Skutki są już widoczne w produkcji.
Asystenci AI coraz częściej nie tylko doradzają przy zakupach, ale też wybierają i płacą. Wraz z nowymi protokołami płatności pojawiają się nowe ryzyka: przekierowanie zaufania, ataki na samego agenta i reklamacje w reżimie, w którym transakcji dokonała maszyna.
Asystent głosowy sterujący oświetleniem, ogrzewaniem i żaluzjami zaczyna wykonywać polecenia, których nikt nie wydał. Hallucynacja modelu językowego w inteligentnym domu przestaje być zabawną anegdotą.
Asystent AI czyta pocztę, przegląda strony i kupuje za nas. Wystarczy, że w treści, którą odczyta, ktoś ukryje rozkaz — i to nie my, tylko atakujący zaczyna wydawać polecenia naszemu agentowi.
Wystarczy jedna strona internetowa, wynik wyszukiwania albo dokument z ukrytym poleceniem, by agent AI działający z uprawnieniami użytkownika zaczął je wykonywać. OWASP wskazuje wstrzykiwanie poleceń jako ryzyko numer jeden dla dużych modeli językowych, a badacze dowodzą, że publikowane obrony pękają pod naciskiem ataków adaptacyjnych.