Deepfakes i dezinformacja: jak generatywna AI podważa zaufanie do rzeczywistości

Technologia generowania syntetycznych mediów przeszła drogę od eksperymentów badawczych do narzędzi dostępnych każdemu z dostępem do internetu. W 2023 roku tworzenie wiarygodnego deepfake wymagało sprzętu, wiedzy i czasu. Dziś aplikacje mobilne i usługi w chmurze pozwalają wygenerować wideo, audio i obrazy w minutach — bez kodowania, za dolary lub gratis.

Skala problemu: od śmiesznych filmików do zagrożeń demokratycznym

Według raportu Deepfake Report 2024 firmy Sensity, liczba wykrytych deepfake’ów w sieci rosła wykładniczo — w 2023 roku zanotowano ponad 500 tys. nowych przypadków, co stanowi wzrost o ok. 900% w porównaniu do 2019 roku. Większość (ok. 96%) to treści pornograficzne bez zgody (tzw. non-consensual intimate imagery), ale rośnie udział deepfake’ów politycznych, finansowych i wojennych.

W styczniu 2024 r. w Nowym Hampshire rozmowa automatyczna z głosem prezydenta Joe Bidena zachęcała wyborców do nieuczestnictwa w primarach — to pierwszy udokumentowany przypadek deepfake audio w kampanii wyborczej w USA. W Europie, przed wyborami do PE w 2024 r., agencje fact-checkingowe (m.in. Demagog, Correctiv, AFP) zweryfikowały kilkadziesiąt syntetycznych nagrań polityków.

Wojna informacyjna: Ukraina, Gaza, Taiwan

Konflikty zbrojne stały się poligonem testowym. W marcu 2022 r. w sieci pojawiło się wideo prezydenta Zełenskiego ogłaszającego kapitulację — szybko odrzucone, ale pokazujące potencjał. W wojnie w Gazie (2023–2024) obie strony konfliktu oskarża się nawzajem o dystrybucję sfabrykowanych nagrań z zamachami, ofiarami cywilnymi i wypowiedziami przywódców. Badacze z Bellingcat i Mnemonic dokumentują systematyczne kampanie information operations z udziałem AI, celujące w opinię publiczną krajów zachodnich.

Oszustwa finansowe: CEO fraud w nowej jakości

Tradycyjny business email compromise (BEC) opierał się na podszywaniu adresu e-mail. Deepfake audio i wideo pozwala na real-time impersonation — rozmowę wideo z „prezesem” lub „dyrektorem finansowym”. W lutym 2024 r. firma z Hongkongu straciła 25 mln USD (ok. 100 mln PLN) po spotkaniu wideo, w którym wszystkie osoby oprócz ofiary były wygenerowane przez AI. W Polsce KNF i policja ostrzegają przed rosnącą liczbą przypadków vishing (voice phishing) z klonowaniem głosu bliskich lub przełożonych.

Mechanizmy techniczne: GANy, dyfuzja, modele multimodalne

Pierwsza fala deepfake’ów (2017–2020) opierała się na Generative Adversarial Networks (GAN) — dwóch sieciach rywalizujących ze sobą. Obecna generacja używa modeli dyfuzji (Stable Diffusion, Midjourney, DALL-E 3, Sora, Veo) oraz modeli multimodalnych (GPT-4o, Gemini 1.5), które generują spójne wideo, audio i tekst z jednego polecenia. To drastycznie obniża próg wejścia: nie potrzeba już zestawu danych treningowych ofiary — kilka sekund głosu lub kilku zdjęć wystarczy do zero-shot cloning.

Wykrywanie: wyścig zbrojeń, którego nie da się wygrać trwale

Narzędzia wykrywające (Intel FakeCatcher, Microsoft Video Authenticator, Sensity, Deepware, polskie Deepfake Detection Challenge NASK) analizują artefakty: nienaturalne mruganie, niespójność oświetlenia, błędy w geometrii twarzy, statystyczne cechy spektrogramu audio. Skuteczność na znanych modelach wynosi 90–98%, ale na nowych, nieznanych architekturach spada drastycznie. Paradoks: lepsze generatory dają mniej artefaktów, co utrudnia wykrywanie.

Inicjatywa Content Credentials (C2PA, Coalition for Content Provenance and Authenticity — Adobe, Microsoft, BBC, NYT, itp.) promuje kryptograficzne podpisywanie treści w momencie powstania (kamery, edytory, platformy). W 2024 r. pierwsze smartfony (Google Pixel 9, niektóre Samsung Galaxy) begonneny wdrażać podpisywanie na poziomie sprzętowym. Problem: adopcja jest dobrowolna, asy metadane łatwo usunąć przy przekazywaniu plików.

Prawo: USA, UE, Polska

W USA brak federalnego ustawodawstwa — regulują stany. Kalifornia (AB 730, AB 602) zakazuje dystrybucję deepfake’ów politycznych w ciągu 60 dni przed wyborami i deepfake’ów pornograficznych bez zgody. Texas, Nowy Jork, Wirginia — podobne przepisy. Na poziomie federalnym DEEPFAKES Accountability Act (H.R. 5586) nie przeszedł Senatu.

W UE AI Act (Art. 50) nakazuje oznaczanie treści generowanych przez AI (watermarking, metadane) i przejrzystość systemów generatywnych. DSA (Digital Services Act) wymusza na dużych platformach (VLOPs) systemy wykrywania i usuwania dezinformacji, w tym deepfake’ów. Dyrektywa o przemocy wobec kobiet i przemocy domowej (2024/1385) kategoryzuje tworzenie i udostępnianie deepfake’ów pornograficznych jako przestępstwo.

W Polsce Kodeks karny (art. 190a — upiększanie, art. 202 — pornografia) oraz ustawa o prawie autorskim dają podstawy do ścigania, ale brak jest przepisu jawnego o deepfake’ach. Projekt nowelizacji Kodeksu karnego (stan na 2024) przewiduje nowy art. 190b: kto sprawia, by inna osoba została przedstawiona w treści syntetycznej o charakterze seksualnym bez zgody — podlega karze pozbawienia wolności do 3 lat. Prace trwają.

Obrona jednostki i instytucji

1. Weryfikacja wielowarstwowa — nie ufać single-source: rozmowa wideo + potwierdzenie innym kanałem (telefon, messenger, spotkanie).
2. Słowa-kody (passphrases) w rodzinach i firmach — proste, ale skuteczne zabezpieczenie przed vishingiem.
3. Narzędzia weryfikacji — wtyczki przeglądarki (InVID-WeVerify, Amnesty YouTube DatViewer), serwisy (Google Fact Check Tools, TinEye, Yandex Images dla reverse image search).
4. Higiena cyfrowa — ograniczanie publikowania własnych zdjęć, głosu, wideo w otwartej sieci (trudne, ale zmniejsza powierzchnię ataku).
5. Edukacja — szkolenia z rozpoznawania syntetycznych mediów w szkołach, firmach, urzędach.

Perspektywa: „liar’s dividend” i erozja dowodu

Największe zagrożenie nie leży w tym, że ktoś pomyli deepfake z rzeczywistością, ale w tym, że rzeczywistość może zostać odebrana za deepfake. Politycy, przedsiębiorcy, sprawcy przestępstw coraz częściej twierdzą: „to AI”, konfrontowani z autentycznymi nagraniami. To zjawisko, nazwane liar’s dividend (dywidenda kłamczucha), eroduje funkcję dowodową mediów. Gdy każde nagranie może być fałszywe, a każde fałszywe — uznane za prawdziwe, instytucje sądowe, dziennikarstwo i dyskurs publiczny tracą wspólny grunt.

Rozwiązanie nie jest czysto techniczne. Potrzebne są: standardy pochodzenia treści (C2PA), prawo karne na tworzenie szkodliwych deepfake’ów, odpowiedzialność platform za dystrybucję, a przede wszystkim — świadomość społeczeństwa, że „widzę, więc wierzę” przestało działać.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.