Farmy botów wracają do wyborów: raporty o operacjach wpływu generowanych przez AI
Stara taktyka w nowym wydaniu
Farmy botów nie są wynalazkiem ery sztucznej inteligencji — płatni komentatorzy i sieci fałszywych kont działali na długo przed chatbotami. Zmieniła się jednak skala i koszt produkcji. Modele generatywne potrafią dziś hurtowo pisać komentarze, artykuły i biografie fikcyjnych osób, a operatorzy kampanii wpływów traktują je jak tańszy taśmociąg do produkcji treści. Pytanie o to, jak bardzo technologia zmieniła realne zagrożenie dla wyborów, stało się jednym z kluczowych tematów raportów bezpieczeństwa publikowanych od 2024 roku.
Odpowiedź, jak pokazują udokumentowane przypadki, jest bardziej złożona niż alarmistyczne nagłówki. Narzędzia generatywne obniżyły próg wejścia i przyspieszyły pracę operatorów, ale — według konsekwentnych ocen największych platform — nie przełożyły się jeszcze na przełomowe sukcesy propagandy.
Raporty OpenAI: dwadzieścia operacji rocznie
Pierwszy przełom w dokumentowaniu zjawiska nastąpił pod koniec maja 2024 roku, gdy OpenAI ogłosiła przerwanie pracy pięciu tajnych operacji wpływu, które korzystały z jej modeli. Jak opisał to także „The New York Times”, była to pierwsza taka relacja wielkiej firmy AI o konkretnych wykorzystaniach jej narzędzi w dezinformacji. Na liście znalazła się wcześniej niezgłoszona rosyjska sieć Bad Grammar działająca na Telegramie, znana operacja Doppelganger, chiński Spamouflage, irański International Union of Virtual Media oraz izraelska firma STOIC prowadząca kampanię nazwaną Zero Zeno. Wszystkie używały modeli do pisania komentarzy, artykułów, tłumaczeń i wymyślania biografii dla fałszywych kont.
Co istotne, OpenAI zaznaczyła, że żadna z tych kampanii nie zdobyła dzięki AI istotnie większego zasięgu: w skali Brookingsa oceniającej wybuchowość operacji wpływu żadna nie przekroczyła poziomu 2 na 6. W kolejnym zestawieniu, opublikowanym w październiku 2024 roku w roku wielkich wyborów na świecie, firma poinformowała już o przerwaniu ponad dwudziestu operacji i oszukańczych sieci od początku roku — od prostych generatorów komentarzy po wieloetapowe kampanie odpowiadające na posty użytkowników.
Kwartalne rozliczenia Mety
Niezależny tor dowodowy prowadzą doroczne i kwartalne raporty Mety o zagrożeniach adwersarialnych. Zestawienie za trzeci kwartał 2023 roku opisywało pierwsze próby wykorzystania generatywnej AI przez sieci skoordynowanego nieautentycznego działania: od zdjęć profilowych tworzonych sieciami generatywnymi — których pierwsze użycie datuje się na 2019 rok — po eksperymentalne nagrania wideo z cyfrowymi prezenterami wiadomości. Rok później Meta podała, że w 2022 roku ponad dwie trzecie usuwanych na świecie sieci miało konta ze zmyślonymi twarzami, a w samym 2024 roku usunęła około dwudziestu nowych tajnych operacji wpływu.
Zestawienie za trzeci kwartał 2024 roku zawiera też twardą statystykę pochodzenia zagrożenia: od 2017 roku Rosja pozostaje najczęstszym źródłem przerwanych sieci skoordynowanego nieautentycznego działania, z trzydziestoma dziewięcioma operacjami, przed Iranem (trzydzieści jeden) i Chinami (jedenaście). Meta konsekwentnie podkreśla przy tym, że generatywna AI dała dotąd atakującym jedynie przyrostowe korzyści wydajnościowe i nie utrudniła wykrywania kampanii, bo obrona opiera się na zachowaniu sieci kont, a nie na analizie samych tekstów.
Skutki dla wyborców i granice skuteczności
Dla przeciętnego użytkownika mediów społecznościowych zjawisko ma wymierny koszt: sekcje komentarzy pod artykułami wyborczymi zasiedlają konta-pustyńki, a fałszywe „lokalne” serwisy podszywają się pod redakcje. W grudniu 2024 roku Reuters przekazał jednak ocenę Mety, zgodnie z którą generatywna AI miała ograniczony wpływ na wybory odbywające się na świecie w tamtym roku — sieci propagandowe w większości nie zbudowały znaczącej publiczności na Facebooku i Instagramie. To ważne zastrzeżenie: skala produkcji treści nie równa się skali oddziaływania.
Nie zwalnia to nikogo z czujności. Operatorzy przenoszą aktywność na platformy o luźniejszych zasadach, jak Telegram czy X, testują nowe formaty — od zmyślonych filmowych prezenterów wiadomości po podszywanie się pod aktywistów i dziennikarki. Kampania STOIC, którą Meta i OpenAI opisały wiosną 2024 roku, pokazała zresztą, że tego typu narzędzia sięgają nie tylko państw: propagandę na zamówienie może prowadzić prywatna firma marketingu politycznego.
Regulacje i samoobrona
Regulatorzy próbują domykać przestrzeń dla takich operacji. Unijny akt o usługach cyfrowych zobowiązuje bardzo duże platformy do oceny i ograniczania ryzyk systemicznych, w tym dezinformacji, a unijny akt o sztucznej inteligencji nakłada od sierpnia 2026 roku obowiązek etykietowania deepfake’ów i maszynowego oznaczania materiałów syntetycznych. Na poziomie indywidualnym najskuteczniejsze pozostają stare nawyki: sprawdzanie daty rejestracji i historii podejrzanie aktywnego konta, nieufność wobec profili bez znajomych i zdjęć, porównywanie informacji w kilku rzetelnych serwisach oraz korzystanie z baz operacji wpływu prowadzonych otwarcie przez badaczy.
Konkluzja
Raporty OpenAI i Mety rysują spójny obraz: farmy botów rzeczywiście wróciły do wyborów, ale na razie wygrywają głównie ilością, nie zasięgiem. Generatywna AI uczyniła propagandę tańszą, szybszą i lepiej napisaną, jednak bariery budowy wiarygodnej publiczności okazały się trudniejsze do przeskoczenia niż bariery produkcji tekstów. Zagrożenie nie zniknęło — zostało dopiero dobrze udokumentowane, a to pierwszy krok do obrony.
