Fałszywy głos polityka: jak deepfake audio wszedł do kampanii wyborczych

Kampanie wyborcze mają nowy oręż: syntetyczny głos. W 2024 roku w amerykańskim stanie Karolina Północna wyemitowano w telewizji, kablowce i serwisach streamingowych w pełni wygenerowaną przez sztuczną inteligencję reklamę wyborczą — parodiującą kandydata republikanów na gubernatora, Marka Robinsona. Sztuczny głos czytał w niej rzeczy, które kandydat faktycznie mówił w innych miejscach — od mediów społecznościowych po nabożeństwa. Twórca, demokratyczny darczyńca Todd Stiefel, chciał zwrócić uwagę wyborców na te wypowiedzi. Kampanii Robinsona nie rozbawiło to — nazwała materiał oszczerstwem z użyciem fałszywych klipów.

Słowacja: nagranie w moratorium

Najgłośniejszy przypadek użycia fałszywego głosu w europejskiej kampanii to słowackie wybory parlamentarne z września 2023 roku. Dwa dni przed głosowaniem, w czasie 48-godzinnego moratorium wyborczego — w którym media i politycy mają milczeć — w mediach społecznościowych pojawiło się dwuminutowe nagranie audio. Głosy rzekomo należały do lidera Progresywnej Słowacji Michala Šimečki i znanej dziennikarki dziennika „Denník N” Moniki Tódovej. Na nagraniu Šimečka miał opisywać, jak kupował głosy w wioskach romskich, a dziennikarka miała dostać pieniądze za wpływ na wynik wyborów.

Głosy wygenerowała sztuczna inteligencja — prawdopodobnie wytrenowana na próbkach głosów dostępnych w sieci. Šimečka i „Denník N” natychmiast zaprzeczyli. Agencja AFP, powołana przez firmę Meta do sprawdzania faktów, oznaczyła nagranie jako podróbkę, a słowacka policja poinformowała, że ma świadomość manipulatywnych materiałów związanych z wyborami. Nagranie pozostało jednak w sieci: moratorium uniemożliwiało szerokie sprostowanie, a polityka Meta dotycząca zmanipulowanych mediów obejmowała wówczas wyłącznie wideo — zmanipulowane audio wykorzystywało lukę w zasadach platformy. Nagranie wciąż jest widoczne na Facebooku, z etykietą fact-checku (ang. weryfikacji faktów), którą użytkownicy mogą zignorować jednym kliknięciem.

Karolina Północna: pierwsza taka reklama

Przykład amerykański pokazał, że syntetyczny głos wszedł do głównego nurtu. We wrześniu 2024 roku w Karolinie Północnej zaczęła być emitowana w pełni wygenerowana przez AI reklama wyborcza — uznana za pierwszą tego rodzaju w tym stanie. Twórca, inwestor Todd Stiefel, opisał ją jako „przesadzoną” — jej celem było dotarcie do wyborców, którzy ignorują większość reklam politycznych. Reklama zawierała pełnoekranowe zastrzeżenie informujące o użyciu AI: obrazy i głos nie są prawdziwe, ale wskazane rzeczy kandydat faktycznie powiedział. Zastrzeżenie wyświetla się przez pierwsze sekundy materiału — obserwatorzy wskazywali, że to za krótko, by widz je dostrzegł.

Użycie AI w reklamie wyborczej nie naruszało żadnego prawa — ani federalnego, ani stanowego. Kampania Robinsona nazwała materiał oszczerstwem pełnym fałszywych klipów. Sprawa pokazuje nowy etap: deepfake w kampanii przestał być tylko bronią anonimowych operacji dezinformacyjnych — sięgają po niego także jawne podmioty, które twierdzą, że transparentność (zastrzeżenie o AI) usprawiedliwia użycie syntetycznego głosu.

Dlaczego audio jest groźniejsze niż wideo

Deepfake audio ma cechę, która odróżnia je od zmanipulowanego wideo: trudno je zweryfikować. Zmanipulowane wideo da się przeanalizować klatka po klatce, audio — znacznie trudniej. Sprawdzenie, czy głos jest prawdziwy, wymaga czasu: pracownicy sprawdzający fakty musieli dzwonić do ekspertów i testować klasyfikator mowy, by potwierdzić manipulację na Słowacji. W tym czasie nagranie zdobywa zasięgi.

Do tego dochodzi timing. Oba słowackie nagrania pojawiły się w moratorium wyborczym — w oknie, w którym reakcja jest najtrudniejsza. Badacze opisują to mianem decyzyjnych punktów kontrolnych: krótki czas bezpośrednio przed głosowaniem, w którym zapadają nieodwołalne decyzje, a fałszywa informacja może mieć nieodwracalne skutki. Analiza przypadków deepfake’ów w wyborach w jedenastu krajach pokazała, że w większości z nich fałszywki nie odwróciły wyniku — ale na Słowacji i w Turcji miały pewien wpływ, a ich twórcy celowo wybrali ostatnie dni kampanii, by skrócić czas na sprostowanie.

Jak się bronić

Kilka zasad ma zastosowanie dla każdego odbiorcy:

• weryfikacja źródła — kto pierwszy upublicznił nagranie? Konto anonimowe, bez historii, to sygnał ostrzegawczy;
• szukanie sprostowania u bezpośrednio zainteresowanych — polityk, którego głos słychać na nagraniu, i jego środowisko zaprzeczają lub potwierdzają najszybciej;
• czujność na timing — nagranie w ostatnich godzinach kampanii, bez możliwości weryfikacji, to klasyczny wzorzec;
• pomoc narzędzi — klasyfikatory mowy i serwisy weryfikujące fakty oznaczają podróbki, choć żadne narzędzie nie daje stuprocentowej pewności.

Dla platform i regulatorów płynie osobny wniosek: zasady dotyczące zmanipulowanych mediów, które obejmują wyłącznie wideo, zostawiają lukę dla audio — tej samej luki używa każda operacja, której to potrzebne.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.