Dezinformacja generowana przez AI: jak modele językowe i wizualne zmieniają wojnę informacyjną

Do 2022 roku stworzenie wiarygodnego deepfake’a wideo wymagało znanych narzędzi (np. DeepFaceLab), mocnego GPU, godzin trenowania modelu na materiałach źródłowych i wiedzy technicznej. Generowanie długiego, spójnego tekstu dezinformacyjnego trwało godziny pracy copywritera. Dziś, po wydaniu modeli typu GPT-4, Claude 3, Midjourney v6, Sora, Runway Gen-3 oraz otwartych modeli Llama 3, Stable Diffusion 3, Flux — bariera wejścia zniknęła. Każdy z dostępem do internetu może w minutach wygenerować: artykuł w stylu dowolnego dziennika, przemówienie polityka w jego głosie, wideo z jego udziałem, które nigdy nie miało miejsca, lub tysiące unikalnych komentarzy na media społecznościowe.

Ekonomia dezinformacji: koszt bliski zeru

Raport RAND Corporation z 2023 roku szacował, że koszt wyprodukowania miliona unikalnych, wiarygodnych wiadomości dezinformacyjnych spadł z kilkudziesięciu tysięcy dolarów (praca ludzka, troll farms) do poniżej 100 dolarów (koszt inferencji modeli API lub zużycie energii na lokalnym GPU). To zmienia logikę ataków: nie trzeba już celować precyzyjnie — można zalewać przestrzeń informacyjną „szumem” w skali, której ludzki fact-checking nie nadąża przetworzyć.

W 2024 roku centrum Center for Countering Digital Hate (CCDH) przetestowało 40 popularnych narzędzi AI na generowanie dezinformacji wyborczej. W 41% przypadków modele wygenerowały fałszywe treści mimo oficjalnych zabezpieczeń (guardrails). Najłatwiej uzyskiwało się: fałszywe cytaty polityków, sfabrykowane wyniki sondaży, narracje o fałszywych procedurach głosowania, deepfake’a audio z głosem kandydata.

Audio deepfake: nowy wektor ataku

Synteza głosu (Text-to-Speech, Voice Cloning) stała się najbardziej niebezpiecznym i trudnym do wykrycia wektorem. Modele takie jak ElevenLabs, OpenAI Voice Engine, Microsoft VALL-E 2, Meta Voicebox potrafią sklonować głos z 3–30 sekund nagrania referencyjnego, zachować intonację, akcent, emocje i mówić w dowolnym języku.

W styczniu 2024 roku w Nowym Hampshire (USA) rozesłano automatyczne rozmowy telefoniczne (robocalls) z głosem imitującym prezydenta Joe Bidena, zachęcające demokratów do nieuczestnictwa w wyborach przedpreferencyjnych. Śledztwo FBI i FCC wskazało na firmę Life Corporation i osobę używającą usług ElevenLabs. To pierwszy duży, publicznie potwierdzony przypadek audio-deepfake’u w kampanii wyborczej w USA. FCC nakazało operatorom telekomunikacyjnym blokowanie takich rozmów, a ElevenLabs zablokowało konto sprawcy — ale technologia pozostaje powszechnie dostępna.

W Polsce w 2023 roku media zgłosiły przypadki oszustw „na wnuka” z wykorzystaniem sklonowanego głosu bliskiej osoby — ofiary przelewają pieniądze, słysząc głos córki lub wnuka w stanie zgrody. Policja nie prowadzi oddzielnej statystyki takich spraw, traktując je jako zwykłe oszustwa art. 286 KK.

Wideo: od deepfake’a do „generatywnego wideo”

Narzędzia do generowania wideo (Sora OpenAI, Runway Gen-3, Luma Dream Machine, Kling, Pika, Stable Video Diffusion) w 2024 roku osiągnęły jakość, w której 5–10-sekundowe klipy są trudne do odróżnienia od nagrań rzeczywistych przez nieszkolone oko. Główne ograniczenia: spójność dłuższych sekwencji, fizyka ruchów, detale (dłonie, zęby, tło). Mimo to, do celów dezinformacji często wystarczy krótki fragment — np. „nagranie zmonitoringu” pokazujące zdarzenie, które nie miało miejsca.

W marcu 2024 roku na platformie X pojawiło się wideo przedstawiające rzekome ataki na urzędy wyborcze w Polsce — wygenerowane przez AI, rozpoznawalne po błędach w tablicach rejestracyjnych i znakach drogowych, ale przed usunięciem zdążyło zostać przetweetowane tysiące razy. Badania MIT Media Lab (2023) wykazały, że fałszywe wideo rozprzestrzenia się 6 razy szybciej niż fałszywy tekst, a ludzie rzadziej go weryfikują.

Skala i koordinacja: boty LLM jako armia trolli

Modele językowe pozwalają na automatyzację nie tylko treści, ale całej infrastruktury dezinformacji: generowanie tysięcy unikalnych profili z biogramami, avatarami, historią aktywności; prowadzenie dyskusji w komentarzach z zachowaniem kontekstu; adaptacja narracji w czasie rzeczywistym w reakcji na fakt-checki; tłumaczenie na dziesiątki języków z zachowaniem lokalnych idiomów.

W 2023 roku badacze Stanford Internet Observatory odkryli kampanię „Doppelganger” (przypisywana rosyjskim akteurom), która klonowała całe strony internetowe mainstreamowych mediów (Le Monde, Der Spiegel, The Guardian, polskie serwisy), wstrzykując do nich fałszywe artykuły. Strony hostowane były na domenach typu lemonde.fr..kampania.xyz — wizualnie niemal identyczne. Treści generowano modelami LLM, co pozwalało na produkcję setek unikalnych artykułów dziennie.

Wykrywanie: wyścig uzbrojenia, którego nie da się wygrać tylko technicznie

Narzędzia detekcji (np. Hive Moderation, Sensity, Intel FakeCatcher, Microsoft Video Authenticator, open-source DeepFakeDetector, FaceForensics++) działają na zasadzie klasyfikatorów wytrenowanych na znanych generacjach. Gdy nowy model generujący (np. Sora, Flux) produkuje inny rozkład pikseli/tokenów — detektory tracą skuteczność do ponownego wytrenowania.

Inicjatywa C2PA (Coalition for Content Provenance and Authenticity) — wspólna Adobe, Microsoft, Intel, BBC, New York Times, itp. — promuje standard kryptograficznego podpisywania treści w momencie powstania (aparaty, edytory, modele AI). W 2024 roku Leica i Nikon wypuściły aparaty z wbudowanym podpisywaniem C2PA; Microsoft integruje to w Bing Image Creator, OpenAI w DALL-E 3. Problem: podpisanie jest dobrowolne, aacteurzy dezinformacji po prostu go pomijają. Co więcej, metadane C2PA można usunąć lub podrobić, jeśli nie ma łańcucha zaufania do sprzętu.

Przeciwdziałanie: wielowarstwowe, nie tylko techniczne

1. Media literacy i edukacja — Finlandia (od 2014 r. w podstawówce) i Estonia uczą rozpoznawania manipulacji mediów. Badania European Commission (2023) pokazują, że obywatele tych krajów najlepiej radzą sobie z identyfikacją dezinformacji w UE.

2. Regulacje transparentności — AI Act UE (2024/1689) wymusza oznaczanie treści generowanych przez AI (art. 50), rejestrację systemów o wysokim ryzyku, audyty. Digital Services Act nakazuje dużym platformom (VLOPs) systemy wykrywania i usuwania zdezinformujących treści, raportowanie transparentności.

3. Watermarking niewidoczny — Google SynthID, Meta AudioSeal, OpenAI watermarking wstawiają nieczytelne dla ludzka sygnatury w tokenach/pikselach. Skuteczne przy modelach zamkniętych, bezużyteczne przy modelach otwartych (Llama, Stable Diffusion, Flux), które można uruchomić lokalnie bez znaku wodnego.

4. Fakt-checking wspierany AI — narzędzia typu Full Fact AI, ClaimBuster, Google Fact Check Tools API automatyzują wstępne wykrywanie twierdzeń do weryfikacji, ale ostateczna ocena nadal wymaga człowieka.

5. Archwizowanie i dowody — Internet Archive, Bellingcat, Mnemonic archiwizują treści Dezinformacji jako dowody dla sądów i komisji śledczych (np. International Criminal Court używa open-source intelligence z AI do dokumentowania zbrodni wojennych).

Polskie konteksty

Polska jest celem kampanii dezinformacyjnych od lat (np. Secondary Infektion, Doppelganger, kampanie antyukraińskie, antyue, antyimigrantyczne). W 2023–2024 r. NASK i Cybercommand (Komponent Cybernetyczny Wojska Polskiego) zgłaszali wzrost aktywności botów LLM w polskim segmencie internetu — generowanie komentarzy pod artykułami, fałszywe ekspertyzy, manipulowane wykresy. Ustawa o ochronie informacji niejawnej i KSC (Krajowy System Cyberbezpieczeństwa) dają narzędzia reakcji, ale prawo do dezinformacji (art. 256 KK — publiczne powoływanie do popełniania zbrodni, art. 172 KK — fałszerstwo dokumentów) nie precyzuje AI-generowanych treści.

W maju 2024 r. Sejm przyjął nowelizację ustawy Prawo wyznakowe (Kodeks wyborczy), wprowadzającą art. 107a: zakaz rozpowszechniania w kampanii wyborczej materiałów audiowizualnych wygenerowanych przez AI bez jasnego oznakowania. To pierwszy w Polsce przepis bezpośrednio adresujący deepfake’i wyborcze — sankcje: grzywna do 200 tys. zł, a w skrajnych przypadkach unieważnienie rejestru komitetu.

Podsumowanie

AI generatywna nie wynalazła dezinformacji — zmieniła jej ekonomikę, skalę, jakość i szybkość. Atakujący mają narzędzia tańsze, lepsze, łatwiejsze w użyciu. Obrona opiera się na kombinacji: standardów pochodzenia treści (C2PA), edukacji, prawodawstwa nakazującego transparentność, i instytucjonalnej zdolności do szybkiej reakcji. To nie jest problem, który „rozwiąże technologia” — to nowy stan trwały, w którym wiarygodność informacji staje się zasobem, o który trzeba walczyć codziennie.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.