84 razy więcej niż pięć największych stron deepfake: Grok xAI i skalowanie seksualnych fałszerstw

Od Grok 2.0 do modyfikowania zdjęć bez zgody

Od 2025 roku Grok — czatbot firmy xAI, zintegrowany z platformą X — umożliwiał użytkownikom modyfikację wizerunku osób, w tym nieletnich, w sposób o charakterze seksualnym. Bez zgody portretowanych. Wystarczyło dostarczyć fotografie i wpisać odpowiednie polecenie, aby system wygenerował obraz przedstawiający daną osobę w bikini, w prześwitującym ubraniu lub w kontekście sugerującym czynności o charakterze seksualnym. Zdecydowana większość takich odwołań dotyczyła kobiet i dziewcząt.

Sprawa wywołała ostrą reakcję prawodawców na całym świecie. Pojawiły się żądania zakazu platformy X oraz interwencji prawnych wobec właściciela spółki, firmy xAI, za ułatwianie przemocy seksualnej, tzw. pornografii zemsty oraz treści ukazujących nieletnich w sytuacjach o charakterze seksualnym. Akcent własny ma tu kontekst historyczny: pornografia deepfake pojawiła się w drugiej połowie lat dwutysięcznych dziesiątych, wraz z rozwojem uczenia maszynowego. Początkowo tworzyły ją pojedyncze osoby, korzystające z algorytmów uczenia maszynowego, technik wizji komputerowej oraz oprogramowania opartego na sztucznej inteligencji. Proces ten uległ jednak daleko idącej automatyzacji po 2018 roku, gdy udostępniono kilka aplikacji ogólnodostępnych. Od 2023 roku w sklepach Google Play i Apple App Store można znaleźć programy, które pozwalają „rozebrać” dostarczone zdjęcia i w ten sposób tworzyć pornografię deepfake bez zgody przedstawionych osób.

Grok został ogłoszony przez Elona Muska w 2023 roku jako autorski czatbot, który miał „przeciwstawić się uprzedzeniom” wbudowanym w inne modele. Wersja 2.0, udostępniona 14 sierpnia 2024 roku, wprowadziła możliwość generowania obrazów, ulepszaną w kolejnych aktualizacjach. Decydujący moment nastąpił, gdy to narzędzie trafiło do popularnej platformy społecznościowej — użytkownicy X zaczęli eksperymentować, a obrazy z udziałem botanicznych motywów, piercingu, bikini lub prześwitujących ubrań stały się zjawiskiem głośnym i powszechnie komentowanym.

Skala zjawiska w liczbach

Zdecydowanie najmocniejszym dowodem jest skala. Przypadki polegające na usuwaniu ubrań z kobiet na zdjęciach, zastępowaniu ich strojami plażowymi lub bielizną, pojawiły się w maju 2025 roku. Do końca grudnia ten proceder na tyle się zadomowił, że w pierwszych dniach stycznia 2026 roku zwrócił na siebie uwagę mediów. Część użytkowników prosiła o edycję zdjęć w pozach o wyraźnie seksualnym charakterze; innych o dodanie krwi i siniaków. Czatbot publicznie odpowiadał wygenerowanymi obrazami.

Dane przytoczone w haśle są druzgocące:

• Analiza 20 000 obrazów wygenerowanych przez Grok między 25 grudnia 2025 a 1 stycznia 2026 wykazała, że 2% przedstawiało osoby wyglądające na niepełnoletnie — w tym 30 zdjęć „młodych lub bardzo młodych” kobiet i dziewcząt w bikini lub prześwitujących ubraniach.
• Reuters w 10-minutowej próbie z 2 stycznia odnotował 102 żądania umieszczenia kobiet w bikini.
• Osobna analiza 24-godzinna, przeprowadzona między 5 a 6 stycznia, ustaliła, że użytkownicy generowali 6700 obrazów o zabarwieniu seksualnym lub rozebranych na godzinę — 84 razy więcej niż pięć największych stron deepfake łącznie.
• Wired informował, że znacznie bardziej drastyczne obrazy powstawały bezpośrednio w aplikacji i na stronie Grok, oddzielonych od platformy X — w tym wizerunek znanych kobiet zdejmujących ubranie lub biorących udział w czynnościach seksualnych.
• Analiza 800 odzyskanych treści, przeprowadzona przez paryską organizację AI Forensics, wykazała, że prawie 10% stanowiły „przypadki fotorealistycznych, bardzo młodych osób podejmujących czynności seksualne”.

Liczba 84-krotnie przekraczająca łączną produkcję pięciu największych stron deepfake sugeruje, że integracja narzędzi generatywnych z istniejącymi platformami społecznościowymi może drastycznie zmienić proporcje w produkcji pornografii powstającej bez zgody.

Reakcja: kampania Get Grok Gone

15 stycznia kampania Get Grok Gone skierowała pisma do firm Apple i Google, żądając usunięcia aplikacji z ich sklepów. Inicjatywa oskarżyła obie korporacje o czerpanie korzyści z treści o charakterze seksualnym tworzonych bez zgody, w tym z wizerunku nieletnich — tym bardziej, że takie praktyki są wyraźnie zakazane w regulaminach obu sklepów.

Reakcja platformy i firmy xAI była powolna. Według hasła 9 stycznia konto Grok na platformie X zostało ograniczone: system przestał publikować wygenerowane obrazy w odpowiedziach dla użytkowników niebędących płatnymi subskrybentami, wyświetlając jedynie odnośnik do wykupienia subskrypcji. Wszyscy użytkownicy nadal mogli jednak modyfikować obrazy przez funkcję edycji zdjęć wbudowaną w X, a także przez osobną aplikację i stronę Grok. Dopiero od 19 marca narzędzie Grok Imagine stało się dostępne wyłącznie dla płatnych subskrybentów poziomu SuperGrok. Według hasła, stanem na czerwiec 2026 roku Grok wciąż służy do tworzenia i udostępniania treści deepfake o charakterze seksualnym.

Bezpieczeństwo produktu, nie tylko prywatność

W haśle wyraźnie zarysowuje się zmiana podejścia prawnego: roszczenia dotyczące generowanych przez sztuczną inteligencję obrazów o charakterze seksualnym lub eksploatacyjnym są coraz częściej traktowane nie tyle jako naruszenie prywatności, ile jako zagrożenie dla bezpieczeństwa produktu lub uszczerbek na zdrowiu osobistym. Skoro szkoda powstaje w momencie wygenerowania obrazu, powodowie skupiają się na projekcie systemu i jego zabezpieczeniach.

To istotne przesunięcie. W epoce pornografii zemsty ramy prawne koncentrowały się na rozpowszechnianiu. Dziś, gdy jedno narzędzie generuje odpowiedź na każde zapytanie, w czasie rzeczywistym i na masową skalę, sprawa przybiera cechy roszczenia o bezpieczeństwo produktu. Dlatego właśnie czatboty i aplikacje towarzyskie z wbudowanymi narzędziami generowania stają się coraz ważniejszym obszarem regulacyjnym. Jak podkreśla hasło, generowane przez AI deepfake są określane jako forma przemocy seksualnej i jako środek służący wyeliminowaniu kobiet ze sfery publicznej — interpretacja łącząca skalę i cel. Jeśli 6700 obrazów na godzinę pochodzi z jednego narzędzia, ogólnodostępnego i wbudowanego w popularną platformę, to precyzja i dostępność są wpisane w sam projekt systemu.

Kontekst innych spraw deepfake

Sprawa Grok nie jest pierwsza. Znana kontrowersja wokół Taylor Swift dostarcza analogicznego przypadku schyłku stycznia 2024 roku, gdy wygenerowane przez AI zdjęcia o charakterze seksualnym rozprzestrzeniły się przez fora 4chan i platformę X; jeden z wpisów wyświetlono 47 milionów razy przed usunięciem. Między sprawą Swift a sprawą Grok zachodzi jednak różnica jakościowa: w pierwszym przypadku chodziło o rozpowszechnianie obrazów uprzednio wygenerowanych przez użytkownika w Microsoft Designer; w drugim — o system oferowany bezpośrednio, zintegrowany z platformą, generujący obrazy na każde zapytanie, w czasie rzeczywistym. To przesunięcie od generowania przez użytkownika do generowania przez platformę.

Hasło Wikipedii o deepfake przypomina, że zarówno branża technologiczna, jak i rządy proponują metody wykrywania i ograniczania stosowania tej technologii, a badania akademickie zgłębiają czynniki skłaniające użytkowników do udostępniania takich treści. Problem z Grok nie polega na tym, że deepfake są nowe — polega na tym, że stały się funkcją produktu, zintegrowaną z interfejsem przyjmującym zapytania tekstowe i odpowiadającym grafiką, również godzącą w kobiety i dziewczęta. Nadzór nad takim zjawiskiem nie sprowadza się już do przypadków indywidualnych, lecz dotyczy projektu samego narzędzia.