Fałszywe rekomendacje gwiazd: jak AI deepfake podrobił MrBeasta, Toma Hanksa i Martina Lewisa
MrBeast i prezenterzy BBC: pierwsza fala
4 października 2023 roku BBC News opublikowało artykuł o fałszywym filmie na TikToku, w którym MrBeast — czyli Jimmy Donaldson, najpopularniejszy YouTuber na świecie — rzekomo rozdawał iPhone’y 15 za 2 dolary. Film był deepfake’em: padły w nim słowa, że to największa akcja rozdawania iPhone’ów na świecie, a pod filmem znajdował się link do rzekomego odebrania nagrody.
TikTok usunął reklamę w ciągu kilku godzin, a konto zablokowano za złamanie regulaminu platformy, który zabrania publikowania treści syntezycznych zawierających wizerunek prawdziwej osoby. Jednak zanim platforma zareagowała, film obejrzało ponad 28 milionów ludzi. MrBeast udostępnił nagranie na platformie X, dawnej Twitter, żeby ostrzec widzów — ale szkoda była już done.
Ta sama technologia trafiła w prezenterów BBC. Matthew Amroliwala i Sally Bundock — twarze BBC News — zostały podrobieni w fałszywych „wiadomościach biznesowych” na Facebooku. Wideo przedstawiało Elona Muska i zachęcało do inwestycji. Nagranie z Sally Bundock wygenerowano z prawdziwego fragmentu BBC, w którym kiedyś mówiła o przejęciu X przez Muska — ale zedytowano tak, by wyglądało, że zachęca do inwestycji. Meta usunęła treść i oświadczyła, że nie pozwala na tego typu materiały.
„Poczułem się chory”: Martin Lewis i pierwszy deepfake jego wizerunku
7 lipca 2023 roku BBC News opublikowało artykuł o Martinie Lewisie — brytyjskim ekspert ds. finansów konsumenckich, założycielu serwisu moneysavingexpert.com. Lewis powiedział, że poczuł się choro po zobaczeniu deepfake’a z jego wizerunkiem, który reklamował rzekomy projekt Elona Muska na Facebooku. To był pierwszy przypadek podrobienia jego twarzy.
Lewis określił sytuację jako hańbiącą i ostrzegł, że ludzie stracą pieniądze. Zwrócił uwagę na to, że jego znajomi wpłacali pieniądze na tych rzekomych inwestycjach, wierząc, że on je rekomenduje. Lewis podkreślił, że nie zajmuje się reklamą i nie prowadzi działalności inwestycyjnej.
Lewis nazwał sytuację dzikim zachodem i wezwał rząd do uregulowania działań wielkich platform technologicznych. Ostrzegł, że osoby narażone na oszustwa są krzywdzone, a nic się z tym nie robi. To nie było jego pierwsze spotkanie z fałszywymi reklamami na Facebooku — w 2018 roku pozywał platformę za wykorzystywanie jego nazwiska, zakończył postępowanie po zobowiązaniach Facebooka i darowiźnie 3 milionów funtów na rzecz Citizens Advice.
Tom Hanks: „Nie mam z tym nic wspólnego”
2 października 2023 roku BBC News opublikowało artykuł o Tomie Hanksie — amerykańskim aktorze, który udostępnił na Instagramie ostrzeżenie: „Istnieje film promujący jakiś plan ubezpieczenia stomatologicznego z wersją mnie wygenerowaną przez AI. Nie mam z tym nic wspólnego.” Hanks był kolejną celebrytą, która padla ofiarą deepfake’a — w tym samym tygodniu podrobiono także Martina Lewisa, Donalda Trumpa i Wołodomyra Zełenskiego.
Aktorzy i pisarze Hollywood byli wówczas w strajku, w którym kwestia sztucznej inteligencji była centralnym problemem. Nieprzypadkowo kilku z nich stało się jednocześnie ofiarami technologii, której dotyczył spór. We wrześniu 2023 Google ogłosił wymóg oznaczania reklam politycznych, które używają AI. Wielka Brytania wprowadziła surowsze prawo dotyczące deepfake pornografii, ułatwiając karanie sprawców.
Taylor Swift i miliony wyświetleń AI-pornografii
28 stycznia 2024 roku BBC News opublikowało artykuł o tym, że platforma X zablokowała wyszukiwania dla Taylor Swift po tym, jak AI-generowane nagie zdjęcia piosenkarki stały się viralem i były oglądane milionami razy. X oświadczyło, że podjęto tymczasowe działania w celu priorytezacji bezpieczeństwa i że platforma ma politykę zerowej tolerancji dla takich treści.
Biały Dom oficjalnie się wypowiedział. Rzecznik prasowy Karine Jean-Pierre powiedziała, że słabe egzekwowanie prawa nieproporcjonalnie uderza w kobiety i dziewczęta, które są głównymi celami. Ostrzegła, że to alarmujące i wezwała do uchwalenia przepisów dotyczących nadużywania AI. Badanie z 2023 roku wykazało 550-procentowy wzrost liczby przerobionych zdjęć od 2019 roku, napędzany pojawieniem się AI. Stany Zjednoczone w 2024 roku nie miały jeszcze federalnych zakazów deepfake, choć istniały działania na poziomie stanów.
FTC: nowa ochrona przed podrobieniem osób
15 lutego 2024 roku Federal Trade Commission — amerykańska komisja federalna ds. handlu — wydała komunikat o propozycji nowych przepisów przeciwko podrobieniu osób przez AI. Tego samego dnia FTC sfinalizowała regułę przeciwko podrobieniu rządu i firm oraz zaproponowała rozszerzenie ochrony na osoby prywatne.
Przewodnicząca FTC Lina M. Khan oświadczyła, że oszuści używają narzędzi AI do podrabiania osób z niesamowitą precyzją i w znacznie większej skali. Ostrzegła, że klonowanie głosu i inne oszustwa oparte na AI rosną, a ochrona Amerykanów przed oszustwami podszywającymi się jest ważniejsza niż kiedykolwiek.
FTC wprost stwierdziło, że nowa technologia — w tym deepfake’i generowane przez AI — grozi napędzeniem tego zjawiska i że komisja zamierza użyć wszystkich swoich narzędzi do wykrywania, powstrzymywania i hamowania oszustw podrobienia. Główne przestępstwa podrobienia kosztowały konsumentów miliardy dolarów w ostatnich latach. Nowa reguła ma uznać za bezprawną sytuację, gdy firma dostarcza dobra lub usługi wiedząc — lub mając powód wiedzieć — że są one wykorzystywane do krzywdzenia konsumentów przez podrobienie.
Kto odpowiada?
Najbardziej niepokojące w tych przypadkach nie jest to, że oszuści używają AI — oszuści zawsze wykorzystają każdą technologię. Chodzi o to, że legalne platformy — TikTok, X, Facebook, Instagram — potrzebują kilku godzin, by usunąć fałszywą reklamę z 28 milionami wyświetleń. MrBeast rozwiązał problem tweetem, ale zwykli ludzie, którzy nie są największymi YouTuberami świata, nie mają 28-milionowego zasięgu i sprawców. Muszą polegać na platformach, które systemowo reagują zbyt wolno.
Platformy muszą przejść od reaktywnego usuwania po nacisku do proaktywnego wykrywania treści podrabiających prawdziwe osoby. FTC po raz pierwszy w lutym 2024 oficjalnie uznało podrobienie osoby prywatnej za kategorię wymagającą specjalnej ochrony. To może narzucić odpowiedzialność dostawcom AI za to, że wiedzą — lub powinni wiedzieć — że ich usługa jest używana do krzywdzenia ludzi. Dla celebrytów z 28-milionowym zasięgiem to niedogodność; dla nieznanych ofiar, które nie są publicznie znane, to konsekwencje życiowe.
