FraudGPT na sprzedaży: przestępczy rynek modeli językowych

W lecie 2023 roku cyberbezpiecznicy zaobserwowali zjawisko, które wyglądało jak lustrzane odbicie boomu na chatboty. Na hakerskich forach i w kanałach komunikatora Telegram pojawiły się ogłoszenia sprzedaży modeli językowych pozbawionych wszelkich zabezpieczeń — narzędzi reklamowanych otwarcie „dla oszustów, hakerów, naciągaczy i osób o podobnych zainteresowaniach”. Nie wymagały wiedzy programistycznej ani własnej infrastruktury: wystarczyła subskrypcja opłacana co miesiąc, a w zamian klient otrzymywał asystenta, który miał pisać wiarygodne wiadomości wyłudzeniowe, generować strony phishingowe i tworzyć złośliwe oprogramowanie. Tak narodziła się komercyjna ekonomia tzw. ciemnych LLM-ów.

Jak wyglądała ta oferta

Pierwszą głośną nazwą był WormGPT, opisany w lipcu 2023 roku przez firmę SlashNext jako pierwszy udokumentowany model językowy zbudowany specjalnie dla przestępczości. Powstał na bazie otwartego modelu GPT-J dostrojonego na zbiorach danych związanych ze złośliwym oprogramowaniem i phishingiem. Badacz Daniel Kelley poprosił go o przygotowanie wiadomości w schemacie oszustwa na pracownika rozliczeń — takiego, który ma nakłonić firmę do opłacenia sfałszowanej faktury — i ocenił rezultat jako niepokojąco przekonujący: tekst nie zawierał błędów językowych ani szablonowych fraz, przez które tradycyjne filtry i przeszkoleni pracownicy rozpoznawali od lat klasyczne próby wyłudzeń. Kilka dni później badacze firmy Netenrich, w tym analityk Rakesh Krishnan, udokumentowali FraudGPT — usługę reklamowaną na Telegramie, oferowaną w abonamencie od dwustu dolarów miesięcznie do około tysiąca siedmiuset dolarów rocznie, z listą możliwości obejmującą pisanie „niewykrywalnego” malware, tworzenie stron phishingowych, wyszukiwanie wycieków danych i numerów kart ułatwiających oszustwa. Sprzedawca chwalił się ponad trzema tysiącami potwierdzonych transakcji.

Ekonomia abonamentu i jej słabości

Sama konstrukcja biznesowa była sygnałem ważniejszym niż deklarowane funkcje. Przestępcy sprzedawali nie jednorazowe narzędzie, lecz usługę z cyklicznym przychodem, cennikiem, kanałami wsparcia i recenzjami — dokładnie tak, jak legalne firmy technologiczne. To oznaczało realny popyt i zapowiedź dalszej iteracji. Równolegle rynek zaroił się jednak od naśladowców o nazwach typu EvilGPT czy WolfGPT, wśród których — jak zgodnie relacjonują zespoły zajmujące się analizą zagrożeń — przeważały rebrandingi istniejących narzędzi albo zwykłe oszustwa wymierzone w samych przestępców. Oryginalny twórca WormGPT zamknął projekt już w sierpniu 2023 roku, gdy zainteresowanie mediów i badaczy zrobiło się zbyt uciążliwe; nazwa jednak żyła dalej jako marka przechwytywana przez zupełnie niezwiązane usługi.

Sceptycyzm wobec tych produktów okazał się uzasadniony. Badacze monitorujący podziemne fora odnotowali, że sami cyberprzestępcy często oceniali je jako przereklamowane, powtarzalne i nieprzydatne do pisania malware — a znany pogląd, że większość ransomware działa z pomocą sztucznej inteligencji, został publicznie obalony. Analitycy zwracali uwagę, że demonstracje w materiałach reklamowych pokazywały przeważnie banalne skrypty, łatwe do wykrycia przez ochronę sprzed lat. Prawdziwa wartość tych narzędzi mieściła się gdzie indziej: w polerowaniu języka ataków socjotechnicznych, czyli w obszarze, gdzie bariera wejścia dla niedoświadczonych sprawców jest najniższa, a straty — jak wynika z danych centrum zgłoszeń FBI dotyczących przestępczości internetowej — największe właśnie w kategorii oszustw na pracowników firm.

Skutki, regulacje i obrona

Instytucje reagowały szybko, choć głównie analitycznie. Europejskie biuro policyjne Europol już wiosną 2023 roku opublikował analizę wpływu dużych modeli językowych na pracę służb, ostrzegając przed uproszczeniem przygotowania ataków, a brytyjskie NCSC zaznaczało, że korzyści z AI rozkładają się nierównomiernie między grupy przestępcze — najwięcej zyskują najmniej wyspecjalizowani. Sam rynek też bywa bezlitosny dla swoich klientów: według doniesień z 2026 roku wyciek danych odsłonił blisko dziewiętnaście tysięcy kont użytkowników jednej z takich usług, wraz z adresami e-mail i metadanymi płatności, zmieniając anonimowość kupujących w gotową listę do identyfikacji.

Dla organizacji konsekwencje są praktyczne. Skoro polerowany język przestał być sygnałem autentyczności, weryfikacja nietypowych poleceń przelewowych musi odbywać się drugim, niezależnym kanałem; kluczowe pozostają uwierzytelnianie poczty, szkolenia oparte na aktualnych przykładach oraz monitoring wycieków danych, które karmią te kampanie. Firmy bezpieczeństwa uczą się równolegle rozpoznawać treści generowane maszynowo, ale żadna detekcja nie zastąpi procedury potwierdzania decyzji finansowych między ludźmi.

Konkluzja

Historia FraudGPT pokazuje dwie prawdy jednocześnie. Po pierwsze, przestępczość natychmiast skomercjalizowała generatywną sztuczną inteligencję, budując na niej modele subskrypcyjne dostępne dla każdego. Po drugie, obietnice tego rynku były — przynajmniej na razie — znacznie większe od rzeczywistych możliwości, a sam handel ciemnymi modelami okazał się częściowo oszustwem w oszustwie. Realne zagrożenie nie sprowadza się do mitycznego superuzbrojenia, lecz do prozaicznego podniesienia jakości masowych wyłudzeń; dlatego obrona powinna koncentrować się nie na spektakularnych scenariuszach, lecz na procesach weryfikacji i higienie danych.