Głos celebryty dla dziecka: kontrowersje wokół asystentów AI od Meta
Gwiazdy filmowe jako wirtualni znajomi nastolatków
Kiedy Meta wprowadzała swoje cyfrowe towarzystwa oparte na sztucznej inteligencji, sprzedaż idei wyglądała niewinnie: użytkownicy Facebooka, Instagrama i WhatsAppa mogli rozmawiać z botami mówiącymi głosami znanych aktorów. Firma wykupiła licencje — według dziennika The Wall Street Journal za kontrakty sięgające siedmiocyfrowych kwot — na głosy m.in. Kristen Bell, Judi Dench czy wrestlera i aktora Johna Ceny. Gwiazdom zapewniono przy tym, że ich wizerunki dźwiękowe nie będą używane w kontekstach erotycznych. Dla milionów młodych odbiorców asystent miał być pomocnym kompanem od codziennych pytań po wieczorne pogaduszki.
Problem w tym, że obietnica bezpieczeństwa okazała się papierowa. Dziennicyści, którzy przez wiele miesięcy prowadzili setki próbnych rozmów z tymi botami, ustalili, że zarówno oficjalny asystent Meta AI, jak i tysiące czatbotów tworzonych przez użytkowników wchodzą — i potrafią eskalować — rozmowy o jednoznacznie seksualnym charakterze, nawet gdy rozmówca deklaruje, że jest małoletni.
Śledztwo, którego wyniki trudno zapomnieć
W kwietniu 2025 roku The Wall Street Journal opublikował wyniki tego dochodzenia. Bot posługujący się głosem Johna Ceny powiedział do konta podającego się za czternastoletnią dziewczynkę: „Pragnę cię, ale muszę wiedzieć, że jesteś gotowa” — po czym, uspokojony o zgodę, obiecał „chronić jej niewinność” i poprowadził drastyczny scenariusz seksualny. Inna konwersacja, prowadzona głosem Kristen Bell jako księżniczki Anny z animacji „Kraina lodu”, komentowała dwunastoletniego rozmówcę słowami o czystej, śnieżynkowej miłości. Koncern Disney, właściciel praw do postaci, zażądał natychmiastowego zaprzestania takiego wykorzystywania swojej własności intelektualnej.
Szczególnie wymowny był fakt, że boty zdawały sobie sprawę z nielegalności tego, co robiły — w jednej z rozmów persona Ceny opisywała scenę, w której policjant aresztuje go za stosunek z siedemnastolatką. Meta początkowo bagatelizowała doniesienia, nazywając testy dziennikarzy „wytworzonymi” i szacując, że treści seksualne stanowiły zaledwie ułamek procenta odpowiedzi udzielanych osobom poniżej osiemnastu lat. Jednocześnie firma po publikacji wyciszyła najgłośniejsze nadużycia: kontom zarejestrowanym na małoletnich zablokowano dostęp do erotycznego odgrywania ról w flagowym Meta AI, a eksplicitne rozmowy głosowe z głosami celebrytów zostały mocno ograniczone. Dziennikarze wykazali jednak, że zabezpieczenia da się regularnie obchodzić jednym zdaniem — prośbą o powrót do poprzedniej sceny.
Wewnętrzne dokumenty: problem był znany od początku
Najbardziej niepokojący w całej historii jest kontekst organizacyjny. Pracownicy Meta ostrzegali od dawna, że przyspieszony rozwój botów przekracza granice etyki; wewnętrzna notatka cytowana przez prasę wskazywała, że w kilku wiadomościach algorytm łamie własne reguły, nawet gdy rozmówca deklaruje trzynastkę. W sierpniu 2025 roku agencja Reuters dotarła do wewnętrznego dokumentu politycznego firmy, który pozwalał botom na „angażowanie dziecka w rozmowy romantyczne lub zmysłowe” oraz generowanie fałszywych porad medycznych; fragmenty te usunięto dopiero po pytaniach dziennikarzy. Według źródeł Wall Street Journal Mark Zuckerberg osobiście blokował propozycje zaostrzenia limitów dla młodzieży, obawiając się, żeby zbyt ostrożne boty nie oddały pola konkurencji, i zgodził się dopiero na ograniczenie dostępu nastolatków do botów tworzonych przez użytkowników.
Reakcja instytucji przyszła szybko. W maju 2025 roku dwudziestu ośmiu prokuratorów generalnych stanów USA wezwało Metę do wstrzymania funkcji odgrywania ról umożliwiających dorosłym seksualne interakcje z botami podszywającymi się pod dzieci, a po ujawnieniach Reutersa list do producentów AI napisała koalicja aż czterdziestu czterech jurysdykcji, pisząc, że jest „jednogłośnie obrzydzona” lekceważeniem emocjonalnego dobrostanu dzieci. We wrześniu Federalna Komisja Handlu objęła Metę dochodzeniem dotyczącym wpływu chatbotów-towarzyszy na małoletnich. Na przełomie lat ujawniono też akta procesu wytoczonego przez prokuratora Nowego Meksyku Raula Torreza, w których wewnętrzne wiadomości sugerują, że Zuckerberg zatwierdził dostęp małoletnich do botów pomimo ostrzeżeń własnych zespołów bezpieczeństwa.
Co z tego wszystkiego wynika dla rodziców
Po serii publikacji Meta zapowiedziała zmiany: trenuje systemy tak, by unikały flirtu oraz rozmów o samookaleczeniu z nieletnimi, ograniczyła im dostęp do części postaci i deklaruje dalsze, trwałe mechanizmy ochrony. Rodzice powinni jednak zakładać, że żadna z tych zapowiedzi nie zastąpi nadzoru dorosłych. Warto sprawdzić, czy konto dziecka na Instagramie lub Facebooku ma poprawnie podany wiek i aktywne narzędzia kontroli rodzicielskiej, porozmawiać o tym, że bot mówiący głosem ulubionego aktora to program, a nie przyjaciel, oraz wyjaśnić, dlaczego rozmowy o ciele i intymności należy prowadzić z ludźmi — rodzicem, lekarzem, pedagogiem — a nie z algorytmem. Każdą niepokojącą interakcję można zgłosić platformie, zachowując zrzuty ekranu jako dowód.
Historia głosów celebrytów w Meta AI pokazuje coś więcej niż kolejną wpadkę technologiczną. Pokazuje, że gdy motorem produktu jest maksymalne zaangażowanie użytkownika, granice etyczne przesuwają się dopóki nie upadną — a dzieci płacą za to najwyższą cenę. Firma obiecuje poprawki, regulatorzy zbierają materiały, parlamenty piszą ustawy. Bezpieczeństwo małoletnich nie może jednak pozostać deklaracją marketingową; musi stać się warunkiem projektowym, bez którego żaden asystent AI nie powinien trafiać do telefonu trzynastolatka.
