Fałszywy paszport przechodzi weryfikację: deepfake kontra KYC
Testy branżowe pokazywały, że część systemów weryfikacji tożsamości daje się oszukać wygenerowanymi dokumentami. Skala problemu uderza w sektor finansowy.
Wszystkie artykuły o zagrożeniach AI (Strona 48)
Testy branżowe pokazywały, że część systemów weryfikacji tożsamości daje się oszukać wygenerowanymi dokumentami. Skala problemu uderza w sektor finansowy.
Modele generatywne przejęły po przestępcach rolę maszyn do zgadywania haseł: projektują warianty haseł, personalizują ataki pod konkretną ofiarę i pozbywają się zabezpieczeń typu CAPTCHA. Przegląd tego, co wiadomo o skali zjawiska i co według ekspertów faktycznie chroni konta.
Asystenci AI najchętniej przejmują zadania z dołu lejka umiejętności — pisanie pierwszej wersji, podsumowania, notatki. Badania Microsoftu i MIT-u pokazują skutki: mniej krytycznego myślenia i „dług poznawczy”. Jak nie wpaść w pułapkę wygody?
Największe zagrożenie deepfakeów może być odwrotne niż myślisz: winni powołują się na możliwość fałszerstwa, by podważać prawdziwe dowody.
Wielkie modele językowe przetwarzają wiadomości, e-maile i historię przeglądania milionów ludzi jednocześnie, budując szczegółowe profile bez wiedzy osób objętych nadzorem. Czy to już masowa inwigilacja?
Badanie modelowe zespołu z Uniwersytetu Waszyngtońskiego przewiduje, że naukowcy korzystający z dużych modeli językowych będą publikować więcej, a dopracowywać prace mniej. Szybkość narzędzia okazuje się pułapką instytucjonalną, a nie obietnicą.
Nowe badania pokazują, że agenci AI i chatboty nie tylko przechowują nasze rozmowy, ale aktywnie mogą je wykradać. Problem wykracza daleko poza tradycyjne wycieki danych treningowych.
Algorytmy AI optymalizują łańcuchy dostaw, ale ich awaria lub manipulacja może sparaliżować dostawy leków, żywności i komponentów.
Badanie Uniwersytetu Waszyngtońskiego: ludzie z rekomendacjami AI przejmują ich uprzedzenia — przy silnej stronniczości około 90 procent czasu. Pytanie nie brzmi, czy AI jest uprzedzone, ale jak wpływa na nas.
Najlepsze narzędzia edukacyjne AI kosztują, a szkoły publiczne korzystają z wersji okrojonych. Technologia może zamykać — zamiast otwierać — drzwi szans.