Fałszywa wideokonferencja: jak deepfake przejął tożsamość prezesa

Fałszywe nagranie głosu prezesa wielkiej firmy to już nie fantastyka. W ostatnich latach zarejestrowano przypadki, w których oszuści używali sklonowanego głosu dyrektora generalnego do zatwierdzania przelewów na miliony dolarów. Mechanizm jest prosty: najpierw zbiera się publicznie dostępne nagrania mowy (wywiady, prezentacje, podcasty), a potem model generatywny odtwarza głos w nowych zdaniach. Dodanie fałszywego wideo z ruchem ust czyni oszustwo jeszcze przekonującym.

Najbardziej znane przypadki dotyczą tzw. „deepfake executive fraud”: atakujący podszywają się pod szefa firmy i kontaktują się z księgowością lub zarządem, żądając pilnego przelewu. Ofiary, pod presją czasu i autorytetu, często wykonują dyspozycję. W 2023 roku w Hongkongu oszuści użyli deepfake’a w wideokonferencji, by przekonać pracownika do przelania 25 milionów dolarów. Sprawa pokazała, że samo „widziałem szefa na ekranie” przestało być dowodem tożsamości.

Skala zagrożenia rośnie z dostępnością narzędzi. Modele klonowania głosu wymagają dziś zaledwie kilku sekund nagrania, a generatory wideo działają w czasie rzeczywistym. Dla firm to oznacza konieczność rewizji procedur: żaden przelew powyżej ustalonego progu nie powinien być zatwierdzany wyłącznie na podstawie rozmowy telefonicznej lub wideo. Warto wprowadzić wielopoziomową autoryzację, kodowe hasła oraz weryfikację przez oddzielny kanał komunikacji.

Problem dotyczy też rynków finansowych. Fałszywe oświadczenie „prezesa” może wywołać gwałtowne ruchy kursu akcji, zanim spółka zdąży sprostować informację. Regulatorzy w wielu krajach pracują nad zasadami etykietowania treści generowanych przez AI, ale technologia rozwija się szybciej niż prawo.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.