3 artykułów
Modele językowe drastycznie obniżyły koszty i podniosły jakość oszustw phishingowych. Spersonalizowane, bezbłędne i przekonujące — tak wyglądają ataki finansowe napędzane sztuczną inteligencją.
Techniki jailbreak pozwalają użytkownikom obejść bezpieczeństwa modeli językowych i wygenerować treści, które miały być zablokowane. Wyścig między atakami a obroną trwa bez zwycięzcy.
Atak prompt injection potrafi zmusić model językowy do ujawnienia poufnych instrukcji, wykonania nieautoryzowanych działań lub obchodzenia zabezpieczeń. To jedno z najpoważniejszych zagrożeń w erze agentów sztucznej inteligencji.