Kod generowany przez AI: nowe ryzyko bezpieczeństwa oprogramowania
Narzędzia AI do generowania kodu przyspieszają pracę programistów, ale wprowadzają nowe klasy podatności i trudne do wykrycia błędy bezpieczeństwa.
6 artykułów
Narzędzia AI do generowania kodu przyspieszają pracę programistów, ale wprowadzają nowe klasy podatności i trudne do wykrycia błędy bezpieczeństwa.
Modele językowe generują nieistniejące orzeczenia, które trafiają do pism procesowych. Skutki są poważne — od grzywien po utratę licencji.
Automatyczne systemy moderacji usuwają wpisy i blokują konta na podstawie analizy sentymentu i klasyfikatorów obrazu. Gdy algorytm się myli, użytkownik traci głos — często bez możliwości odwołania.
Modele AI przyspieszają poszukiwanie nowych leków, ale potrafią też wymyślać nieistniejące molekuły i zmyślać właściwości terapeutyczne. Gdzie kończy się obietnica, a zaczyna ryzyko pacjenta?
AI tworzy fikcyjne osoby z prawdziwych danych. Syntetyczne tożsamości omijają weryfikację i służą do oszustw finansowych.
Klony głosu generowane przez AI umożliwiają przekonywujące oszustwa telefoniczne, w tym podszywanie się pod bliskich i przełożonych.