Naklejka, która zaślepia wzrok maszyny: ataki adwersarskie w świecie fizycznym
Wydrukowana naklejka na znaku potrafi przekonać system, że stop to limit prędkości. Ataki adwersarskie wyszły z laboratoriów na ulice i lotniska.
23 sierpnia 2026
3 artykułów
Wydrukowana naklejka na znaku potrafi przekonać system, że stop to limit prędkości. Ataki adwersarskie wyszły z laboratoriów na ulice i lotniska.
Systemy wizyjne kontrolują jakość produktów na liniach produkcyjnych. Niewidoczne dla człowieka zaburzenia w obrazie — w tym w warstwie przezroczystości pliku — potrafią sprawić, że maszyna nie zauważy wady albo widzi wady, których nie ma.
Banki, firmy i urzędy sprawdzają dokumenty tożsamości za pomocą sztucznej inteligencji. Drobne, niewidoczne dla oka zaburzenia w obrazie potrafią odwrócić werdykt systemu, a generatywne modele pozwalają tworzyć dokumenty, które wyglądają autentycznie.