Klonowanie głosu: jak oszuści wykorzystują AI w telefonach

Telefon dzwoni. Odbierasz i słyszysz głos córki — lekko zdenerwowany, łamiący się. Mówi, że miała wypadek, potrzebują natychmiast pieniędzy, a numer ma być tajemnicą przed resztą rodziny. Po kilku minutach przelewu okazuje się, że córka od rana jest w pracy i nigdy nikomu nie dzwoniła. To nie była ona. To był model sztucznej inteligencji, wytrenowany na kilku sekundach jej głosu z mediów społecznościowych.

Jak działa klonowanie głosu

Klonowanie głosu to technika, w której model uczenia maszynowego analizuje próbki czyjegoś mówienia — tempo, barwę, melodię zdań, sposób oddychania — a następnie generuje nowe wypowiedzi w tym samym stylu. Współczesne narzędzia potrafią pracować z bardzo małą ilością materiału: wystarczy kilkanaście, a według niektórych dostawców technologii zaledwie kilka sekund czystego nagrania, by uzyskać kopię zadowalającą jakościowo na rzeczowe ucho.

Dwa czynniki sprawiły, że ta technika przestała być ciekawostką laboratoryjną. Po pierwsze, jakość syntetycznej mowy stała się na tyle wysoka, że rozmówca nie zauważa różnicy w warunkach typowych dla rozmowy telefonicznej — niskiej przepustowości, kompresji dźwięku, zakłóceń. Po drugie, dostęp: usługi generowania głosu oferowane są komercyjnie za niewielkie opłaty, a nieoficjalne narzędzia krążą po forumach przestępczych. Bariera wejścia spadła niemal do zera. Badacze firmy McAfee ustalili, że już trzy sekundy nagrania pozwalają uzyskać kopię głosu dopasowaną w około 85 procentach, a każda kolejna sekunda materiału podnosi podobieństwo.

Oszustwa na bliskich i urzędników

Najbardziej dotkliwa odmiana tego zagrożenia to oszustwa „na rodzinę”. Przestępca pobiera z internetu nagrania głosu — z filmów publicznych, transmisji na żywo, podcastów albo voice’owych wiadomości — a następnie dzwoni do członka rodziny, grając osobę znajdującą się w nagłej, pilnej sytuacji. Scenariusz jest zawsze podobny: wypadek, aresztowanie, porwanie, pilna potrzeba pieniędzy i prośba, żeby nikomu nie mówić. Presja czasu i żądanie zachowania tajemnicy mają odciąć ofiarę od możliwości sprawdzenia, czy rozmowa jest prawdziwa.

Druga grupa to podszycie pod osoby publiczne i instytucje. Oszuści klonują głosy znanych osób, aby nagrywać fałszywe apele — o przekazanie darowizny, o inwestycję, o pobranie złośliwego oprogramowania. W Polsce od lat funkcjonują klasyczne oszustwa „na wnuczka” i „na policjanta”, w których starsze osoby proszone są o wypłacenie gotówki rzekomo w ramach śledztwa. Sztuczna inteligencja dodaje temu schematowi nową warstwę wiarygodności: głos w słuchawce brzmi jak głos urzędnika, a w razie wątpliwości oszust może „przekierować połączenie” na kolejnego syntetycznego „funkcjonariusza”. Niemiecki nadawca publiczny ARD opisał przypadek matki z Neuss, która usłyszała w słuchawce głos przypominający syna — miał podobno spowodować wypadek — a następnie „policjant” zażądał pieniędzy za to, że dziecko nie trafi do więzienia.

Skala zjawiska zmusza już regulatorów do reakcji. W lutym 2024 roku amerykańska Federalna Komisja Łączności (FCC) orzekła, że połączenia z wykorzystaniem głosów generowanych przez sztuczną inteligencję podlegają przepisom ustawy Telephone Consumer Protection Act — a to oznacza, że takie telefony są, poza wąskimi wyjątkami, nielegalne, jeśli odbiorca nie wyraził uprzedniej zgody na kontakt. Komisja uzasadniała decyzję tym, że przestępcy używają klonowanych głosów, by wyłudzać pieniądze od członków rodzin, podszywać się pod celebrytów i dezinformować wyborców.

Technologia rodzi też spory prawne w Polsce. Do Sądu Okręgowego w Warszawie trafił pierwszy w kraju pozew dotyczący nielegalnego wykorzystania głosu generowanego przez sztuczną inteligencję: chodzi o jednego z najbardziej rozpoznawalnych polskich lektorów, którego głos miał zostać sklonowany i użyty w reklamach dużej spółki bez jego zgody, wiedzy i wynagrodzenia. Proces może ugruntować pogląd, że do klonowania głosu konieczna jest zgoda osoby, której głos ma być użyty.

Dlaczego to działa

Skuteczność tych metod nie wynika z doskonałości technologii, ale z mechanizmów psychologicznych. Głos bliskiej osoby uruchamia zaufanie automatycznie — podświadomie zakładamy, że to, co słyszymy, jest prawdą, skoro brzmi znajomo. Presja czasu wyłącza refleksję: decyzję trzeba podjąć natychmiast, nie ma przestrzeni na weryfikację. Do tego dochodzi żądanie tajemnicy, które izoluje ofiarę od drugiej opinii.

Warto też zauważyć, że dawnym sygnałem ostrzegawczym było dziwne zachowanie rozmówcy — nienaturalna mowa, obcy akcent, metalliczny dźwięk. Współczesne modele eliminują te oznaki, przez co tradycyjne wskazówki przestają wystarczać.

Jak się chronić

Najskuteczniejszą obroną nie jest technologia, ale ustalenie rodzinnych zasad weryfikacji. Warto z bliskimi ustalić bezpieczne słowo — hasło, którego zna tylko rodzina — i uzgodnić, że każde pilne pytanie o pieniądze wymaga jego podania. Druga zasada: zawiesić rozmowę i oddzwonić na numer, który sami znamy, nigdy na ten, z którego przyszło połączenie. Oszust, który traci kontrolę nad kanałem komunikacji, zwykle rezygnuje.

Do tego dochodzi higiena danych. Im mniej naszych nagrań w publicznym obiegu, tym trudniej o materiał do klonowania. Warto ograniczyć publiczne wiadomości głosowe, przeglądać ustawienia prywatności w mediach społecznościowych i ostrożnie udzielać aplikacjom dostępu do mikrofonu. To nie eliminuje ryzyka — nagrania z wydarzeń publicznych czy transmisji na żywo pozostają poza naszą kontrolą — ale podnosi próg wejścia.

Wreszcie instytucje: banki i urzędy w Polsce nie proszą o przelewy ani wypłaty gotówki w telefonicznej rozmowie, nie żądają tajemnicy przed bliskimi i nie zlecają „przekazania pieniędzy kurierowi”. Każdy, kto tego oczekuje, popełnia błąd albo celowo oszukuje.

Co dalej

Klonowanie głosu już zmusza do przemodelowania nawyków, które przez dekady były naturalne: ufania głosowi w słuchawce, rozpoznawania bliskich po barwie, przyjmowania, że rozmowa telefoniczna potwierdza tożsamość. Wraz z dalszym uprzemysłowieniem tej technologii zadaniem instytucji będzie wdrożenie szyfrowanych kanałów weryfikacji, a zadaniem edukacji publicznej — upowszechnienie prostych rodzinnych protokołów. Na razie jednak najtańszą i najskuteczniejszą ochroną pozostaje rozmowa z rodziną, przeprowadzona zanim telefon zadzwoni.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.