Deepfake w wyborach: jak sztuczna inteligencja podważa zaufanie do polityków
Deepfake w wyborach: jak sztuczna inteligencja podważa zaufanie do polityków
Sztuczna inteligencja pozwala na tworzenie wideo, w których polityk mówi słowa, których nigdy nie wypowiedział. Coraz częściej trudno odróżnić prawdziwy nagranie od fałszywego.
W 2024 roku, przed prawyborami w New Hampshire, ameryscy wyborcy otrzymali telefon z nagraniem. Słyszano na nim głos prezydenta Joe Bidena, który apeleował o nie głosowanie w wyborach. Było to fałszywe nagranie wykonane za pomocą klonu głosu opartego na sztucznej inteligencji. Incydent został szybko wykryty, ale pokazał, jak tanie i dostępne jest tworzenie takich materiałów.
Jak to działa
Narzędzia generatywne analizują setki godzin materiałów z kandydatem, ucząc się ruchu jego twarzy, gestykulacji i charakterystyki głosu. Następnie generują nowe nagranie, w którym osoba mówi dowolny tekst. Cały proces jest automatyczny – od rejestru dźwięku do gotowego pliku wideo może minąć kilka minut. Dostępne są również narzędzia do klonu głosu, które wymagają jedynie krótkiego fragmentu nagrania.
Skala problemu
Badanie przeprowadzone przez IPIE (International Panel on the Information Environment) na podstawie bazy 215 incydentów z 50 krajach zorganizujących w 2024 roku wybory parlamentarne lub prezydenckie wykazało, że w 80 procentach tych krajów doszło do incydentów z użyciem generatywnej AI. Najwięcej – po 30 przypadków – zanotowano w Indiach i Stanach Zjednoczonych. Prawie połowa incydentów (46 procent) nie miała zidentyfikowanego źródła. Spośród tych, których autorzy byli znani, 25 procent pochodziło od kandydatów i partii politycznych, a 20 procent od zagranicznych aktorów. Większość – 69 procent – incydentów pełniła szkodliwą rolę.
Badacze z Uniwersytetu Stanforda zasygnalizowali, że podczas amerykańskich wyborów 2024 odnotowano ponad 300 incydentów z deepfake w ponad 40 krajach. Większość z nich nie została wykryta przez systemy moderacji platform ani nie otrzymały faktycznego sprawdzenia – zbyt duża liczba incydentów przekraczała możliwości istniecej infrastruktury weryfikacyjnej.
Co można zrobić
Eksperci proponują trzy kierunki działań. Po pierwsze, platformy społecznościowe powinny wdrożyć systemy wykrywania deepfake, które analizują metadane pliku i strukturę obrazu. Po drugie, redakcje gazet powinny weryfikować nagrania przed publikacją, korzystając z niezależnych ekspertów od forensyki cyfrowej. Po trzecie, obywatele powinni zwracać uwagę na niepewne źródła i nie udostępniać materiałów bez wcześniejszej weryfikacji.
Granice technologii
Obecne systemy wykrywania mają wyższy wskaźnik fałszywych alarmów w przypadku niskiej jakości nagrań. Badania pokazują, że detektory deepfake są skuteczne w 70–80 procentach przypadków, ale ta skuteczność spada, gdy nagranie było kompresowane lub edytowane wielokrotnie.
Oznaczenie treści AI
Ten powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagowany agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
