47 milionów widzeń w kilka godzin: gdy deepfake Taylor Swift obnażył słabość platform

Koniec stycznia 2024: instrukcja w serwisie 4chan i eksplozja na platformie X

Pod koniec stycznia 2024 roku na platformach 4chan i X (dawniej Twitter) rozpowszechniły się wygenerowane przez sztuczną inteligencję obrazy o charakterze seksualnym, przedstawiające amerykańską piosenkarkę Taylor Swift. Kilka sztucznych grafik — zarówno o zabarwieniu seksualnym, jak i brutalnym — błyskawicznie się rozeszło. Według dokumentu jeden z wpisów wyświetlono ponad 47 milionów razy, zanim w końcu został usunięty. To nie był pojedynczy incydent, lecz zaplanowane działanie — firma Graphika, zajmująca się badaniem dezinformacji, prześledziła pochodzenie tych obrazów do społeczności aktywnej w serwisie 4chan.

Hasło wprowadza szerszy kontekst. Microsoft udostępnia narzędzia sztucznej inteligencji do tworzenia obrazów — Microsoft Designer i Bing Image Creator — wyposażone we wbudowane mechanizmy bezpieczeństwa, które mają zapobiegać generowaniu treści niebezpiecznych lub niewłaściwych. Członkowie zamkniętej grupy w komunikatorze Telegram dyskutowali o sposobach obchodzenia tych zabezpieczeń, aby uzyskać pornograficzne wizerunki znanych osób. Akcent ten jest istotny: deepfake nie powstaje w próżni. Za każdym razem, gdy model graficzny staje się ogólnodostępny, społeczność użytkowników szuka sposobów obejścia jego zabezpieczeń, a ofiarami najczęściej padają osoby publiczne — przede wszystkim kobiety.

Reakcja: od Microsoftu do Białego Domu

Sprawa wywołała odpowiedź na najwyższych szczeblach. Satya Nadella, dyrektor generalny Microsoftu — którego produkty, według ustaleń, posłużyły do wygenerowania grafik — określił sytuację jako „alarmującą i okropną”, dodając, że „wszyscy zyskujemy, gdy świat online jest światem bezpiecznym”. Po incydencie Microsoft wzmocnił mechanizmy bezpieczeństwa w modelu Microsoft Designer, aby zapobiec podobnym nadużyciom.

Rzecznik prasowy Białego Domu Karine Jean-Pierre wyraziła zaniepokojenie fałszywymi obrazami, nazywając je „alarmującymi”, i podkreśliła obowiązek platform społecznościowych w zakresie zwalczania dezinformacji. Organizacje przeciwdziałające przemocy seksualnej — w tym Rape, Abuse & Incest National Network — oraz związek zawodowy aktorów SAG-AFTRA potępiły rozpowszechniane materiały. Związek, który wcześniej zajmował się kwestią mediów generowanych przez sztuczną inteligencję, uznał obrazy za „ohydne, szkodliwe i głęboko niepokojące”.

Działania platform i ich granice

Reakcja platform społecznościowych obnażyła słabość przyjętych polityk. W odpowiedzi na rozpowszechnianie grafik administracja X ogłosiła zawieszenie kont biorących udział w ich szerzeniu. Mimo to — zgodnie z dokumentem — zdjęcia nadal udostępniano na nowo poprzez kolejne konta, a sprawa rozlała się na inne platformy, w tym Instagram i Reddit. X formalnie egzekwuje „politykę mediów syntetycznych i manipulowanych”, jednak jej skuteczność była krytykowana. Doprowadziło to do drastycznego kroku: 27 stycznia 2024 roku X tymczasowo zablokował wyszukiwania nazwiska „Taylor Swift”, przywracając tę funkcję dopiero dwa dni później.

Według dokumentu źródło bliskie artystce poinformowało „The Daily Mail”, że piosenkarka rozważa podjęcie działań prawnych, oświadczając: „Trwa decyzja o tym, czy podjąć kroki prawne, lecz jedno jest jasne: fałszywe, wygenerowane przez sztuczną inteligencję obrazy stanowią nadużycie, są obraźliwe, eksploatacyjne i powstały bez zgody oraz wiedzy Taylor”. Fani Swift, znani jako Swifties, odpowiedzieli na obrazy kampanią z użyciem etykiety #ProtectTaylorSwift na platformie X, równocześnie zalewając etykiety powiązane z fałszywymi grafikami treścią pozytywną — nagraniami koncertów i występami na żywo.

Projekt ustawy senatorów USA

Sprawa znalazła odzwierciedlenie w legislatywie. Jeszcze w tym samym miesiącu grupa amerykańskich senatorów — Dick Durbin, Lindsey Graham, Amy Klobuchar i Josh Hawley — przedłożyła projekt ustawy poparty przez obie główne partie. Dokument uprawniał ofiary do dochodzenia roszczeń od osób, które wytwarzały lub posiadały „cyfrowe fałszerstwa” z zamiarem rozpowszechniania, oraz od tych, które przyjęły takie materiały, wiedząc, że powstały bez zgody. W lutym 2024 roku Unia Europejska zawarła porozumienie w sprawie podobnej regulacji, która — według dokumentu — od drugiej połowy 2027 roku będzie karać za pornografię typu deepfake, nękanie w internecie oraz tzw. pornografię zemsty.

Dziennikarze — jak relacjonuje dokument — zauważyli, że udział w sprawie wybitnej postaci publicznej, takiej jak Swift, może przynieść szersze zainteresowanie sprawą i reformę polityczną. Przypomina to również inny przypadek opisany w haśle Wikipedii „Grok sexual deepfake scandal” — podobna kontrowersja wybuchła w sierpniu 2025 roku, gdy narzędzie Grok Imagine, służące do tworzenia obrazów i filmów, wygenerowało treści o wyraźnie seksualnym charakterze przedstawiające Swift na podstawie pozornie niewinnego polecenia tekstowego. Zestawienie tych dwóch przypadków potwierdza, że incydent ze stycznia 2024 roku nie był pojedynczym wybrykiem.

Skala zjawiska w ujęciu globalnym

Pornografia deepfake stanowi — według hasła encyklopedycznego — jedno z głównych zastosowań tej technologii. Deepfake wychwycił szeroką uwagę z uwagi na potencjalne wykorzystywanie do tworzenia materiałów seksualnych przedstawiających nieletnich oraz znanych osób, tzw. pornografii zemsty, dezinformacji, mistyfikacji, nękania oraz oszustw finansowych. Badacze z dziedziny nauk społecznych i humanistycznych zgłębiają społeczne, etyczne i estetyczne implikacje tych zjawisk, a także ich konsekwencje dla dziennikarstwa i obiegu informacji.

Mimo reakcji polityków i platform podstawowa asymetria utrzymuje się. Koszt wygenerowania realistycznego obrazu jest dziś symboliczny, zaś koszty obrony ofiary — psychologiczne, prawne i reputacyjne — pozostają nieproporcjonalnie wysokie. Sprawa Swift ukazuje skalę problemu: 47 milionów odsłon w kilka godzin, zakazane obrazy rozpowszechniane nadal mimo oficjalnych deklaracji o zawieszaniu kont. Dopóki technologia pozostaje ogólnodostępna, pierwszą linią obrony pozostaje świadomość odbiorców i nieufność wobec obrazu, który wydaje się „zbyt dobry, by być prawdziwym”.