FTC kontra AI: amerykański regulator rusza na oszustwa głosowe

Gdy oszust dzwoni cudzym głosem

Piętnastego lutego 2024 roku amerykańska Federalna Komisja Handlu — Federal Trade Commission, w skrócie FTC — podjęła krok, który w świecie sztucznej inteligencji zwrócił uwagę na ten organ jako na jednego z pierwszych regulatorów poważnie traktujących zagrożenia związane z klonowaniem głosu. FTC opublikowała dodatkowy wniosek o zmianę przepisów, mający zakazać podszywanie się pod konkretne osoby — w odpowiedzi na szybki rozwój technologii klonowania głosu i innych narzędzi AI wykorzystywanych do oszustw.

Decyzja zapadła w okresie intensywnej fali nadużyć opartych na sztucznej inteligencji. W lutym 2024 roku w Hongkongu pracownik działu finansowego przelał 25 milionów dolarów po tym, jak uczestniczył w rozmowie wideo, w której deepfake podszywał się pod głównego księgowego firmy. W tygodniach następujących po tym zdarzeniu media zaczęły opisywać dziesiątki podobnych przypadków. FTC uznała, że bez konkretnych ram prawnych zjawisko przybierze katastrofalne rozmiary.

Zmiana regulacji we właściwym kierunku

W swoim komunikacie FTC zaproponowała rozszerzenie ochrony, jaką zapewnia nowa regulacja dotycząca podszywania się pod instytucje rządowe i biznesowe — w tamtym czasie finalizowana jako Government and Business Impersonation Rule. Dodatkowy wniosek obejmuje także podszywanie się pod osoby prywatne, w tym osoby publiczne, członków rodziny czy kolegów, które mogą stać się celem klonowania z wykorzystaniem deepfake.

Jeden z elementów propozycji ma szczególne znaczenie. FTC zwróciła się o opinię, czy zmieniona regulacja powinna objąć firmy dostarczające platformy AI do tworzenia obrazów, wideo lub tekstu, w przypadku gdyby firma wiedziała albo powinna wiedzieć, że jej usługi są wykorzystywane do podszywania się pod inne osoby w celu wyrządzenia szkody konsumentom. To istotna zmiana — oznaczałaby po raz pierwszy rozszerzenie odpowiedzialności na warstwę dostarczającą narzędzia AI, a nie tylko na samych oszustów korzystających z nich.

Lina M. Khan: „niesamowita precyzja i znacznie szersza skala”

W komunikacie szefowa FTC Lina M. Khan powiedziała wprost: „Oszuści wykorzystują narzędzia oparte na sztucznej inteligencji do podszywania się pod konkretne osoby z niesamowitą precyzją i w znacznie większej skali. Wraz z rozwojem klonowania głosu i innych oszustw bazujących na AI, ochrona Amerykanów przed oszustami podszywającymi się pod innych jest ważniejsza niż kiedykolwiek”.

Cytat ten ma znaczenie ponad zwykłą retoryką. Pokazuje, w jaki sposób federalny regulator Stanów Zjednoczonych postrzega sztuczną inteligencję — nie jako nowinkę technologiczną, ale jako katalizator istniejących już szkód ponoszonych przez konsumentów. Sama regulacja w sprawie podszywania się nie jest nowa. FTC finalizuje ją po dwóch rundach publicznych konsultacji — rozpoczętych wcześniejszym wnioskiem z grudnia 2021 roku, propozycją z września 2022 roku oraz nieformalną przesłuchą w maju 2023 roku. Przepisy dotyczące podszywania się pod osoby prywatne wprowadzono 15 lutego 2024 roku — pod wpływem fali oszustw bazujących na sztucznej inteligencji.

Nowe narzędzia w walce z oszustami

Równolegle z dodatkowym wnioskiem FTC finalizuje Government and Business Impersonation Rule, która daje agencji bezpośrednie narzędzia do zwalczania oszustów podszywających się pod instytucje biznesowe lub rządowe. Na mocy tej regulacji FTC może kierować sprawy bezpośrednio do sądu federalnego, wymuszając powstrzymanie sprawców oraz zwrot pieniędzy konsumentom.

To istotna zmiana, ponieważ wcześniej FTC musiała wytaczać postępowanie administracyjne — czasochłonną procedurę przed komisją administracyjną. Nowa regulacja umożliwia szybsze reagowanie. Ostateczne przepisy wchodzą w życie 30 dni od opublicowania w Federal Register, a okres publicznych konsultacji do dodatkowego wniosku pozostaje otwarty przez 60 dni.

Co to oznacza dla ofiar i platform AI

Dla konsumentów otwiera się możliwość skorzystania z nowych uprawnień FTC. W szczególności ofiary, których głos lub wizerunek został wykorzystany w deepfake, mogą liczyć na szersze uprawnienia agencji w dochodzeniu odszkodowań oraz wydawaniu nakazów sądowych.

Dla platform AI oznacza to, że po raz pierwszy amerykański regulator rozważa rozszerzenie odpowiedzialności nie tylko na posiadacza narzędzia przestępczego, ale także na dostawcę ułatwiającej przestępstwo infrastruktury. To krok w kierunku odpowiedzialności pośredniej — w Europie budowanej stopniowo przez Digital Services Act.

Perspektywa globalna

Decyzja FTC nie jest odosobniona. W Europie Digital Services Act, brytyjski Online Safety Act, europejski AI Act, a także działania regulacyjne Korei Południowej i Indii wskazują na podobną trajektorię. Różnice sprowadzają się do kierunku i gradacji: FTC opiera się na ochronie konsumenta, podczas gdy Europa szerzej uwzględnia prawa cyfrowe oraz bezpieczeństwo.

W listopadzie 2025 roku Wielka Brytania przedstawiła odrębną legislację dotyczącą materiałów przedstawiających wykorzystywanie dzieci, generowanych przez sztuczną inteligencję — jako poprawkę do ustawy Crime and Policing Bill. Dla FTC kontekst klonowania głosu w oszustwach wpisuje się w szersze, globalne środowisko regulacyjne.

Sztuczna inteligencja jako katalizator oszustw

Komunikat FTC używa słowa „turbocharge” do opisu wpływu sztucznej inteligencji na istniejące formy oszustw — co ma istotne znaczenie. FTC nie wprowadza AI jako takiej w roli nowego problemu. Wręcz przeciwnie: sztuczna inteligencja jest akceleratorem istniejących przestępstw. Oszust, który wcześniej ograniczony był powolnym kreowaniem z fałszywych kont, obecnie skaluje działanie w setkach jednoczesnych rozmów telefonicznych. Bez regulacji pomnaża liczbę oszustw o rząd wielkości.

Wyzwania na przyszłość

Regulacja FTC uzupełnia, ale nie rozwiązuje kompletnie problemu. Wykrywanie deepfake’ów głosu pozostaje obszarem, w którym technologia nieustannie się rozwija. Jeżeli oszust posłuży się głosem członka rodziny w „nagłej sytuacji rodzinnej”, nawet najlepszy regulator może mieć trudności z interwencją z góry.

Dlatego przepisy FTC muszą stanowić tylko element szerszej odpowiedzi: szybkich mechanizmów zgłaszania i usuwania, obowiązkowej identyfikacji treści syntetycznych na platformach społecznościowych oraz współpracy transgranicznej między regulatorami. Bez tego nawet najlepsza regulacja pozostanie krok za oszustami.

Podsumowanie

Regulacja FTC dotycząca podszywania się pod konkretne osoby, finalizowana od lutego 2024 roku, stanowi cenny precedens: federalny regulator Stanów Zjednoczonych określa rolę sztucznej inteligencji jako akceleratora przestępstw wobec konsumentów. FTC rozważa rozszerzenie odpowiedzialności na platformy AI dostarczające narzędzia do tworzenia obrazów, wideo lub tekstu — co oznacza nową era odpowiedzialności pośredniej w sektorze AI. Dla ofiar oszustw opartych na klonowaniu głosu otwiera się droga do dochodzenia odszkodowań bezpośrednio przez sąd federalny.