WormGPT i cyberprzestępcy: gdy oszustwo ma własnego asystenta AI

Sztuczna inteligencja obniżyła barierę wejścia do wielu zawodów. Niestety także do przestępczości internetowej. Złośliwe modele językowe — narzędzia AI tworzone bez zabezpieczeń, przeznaczone do celów przestępczych — pozwalają osobom bez wiedzy technicznej i bez znajomości języka pisać przekonujące wiadomości phishingowe, przygotować pisma procesowe do fałszywych roszczeń albo zaplanować kampanię oszustwa inwestycyjnego.

WormGPT i podobne narzędzia

Najgłośniejszym przykładem jest WormGPT — model językowy oparty na otwartym modelu GPT-J, oferowany od czerwca 2023 roku na forach cyberprzestępczych jako „czarna” alternatywa dla ChatGPT bez ograniczeń etycznych. Firma SlashNext, zajmująca się ochroną przed phishingiem, uzyskała dostęp do tego narzędzia i przetestowała je w kontekście oszustw typu business email compromise, czyli oszustw na przejęcie płatności w korespondencji firmowej. W generowanym teście WormGPT stworzył wiadomość nakłaniającą pracownika do zapłacenia fałszywej faktury — przekonującą i pozbawioną błędów językowych.

WormGPT nie działał jednak długo. Po tym, jak dziennikarz Brian Krebs ujawnił w sierpniu 2023 roku osobę stojącą za projektem, autor zamknął narzędzie, wskazując na zbyt duże zainteresowanie mediów. Rynek nie zniknął: badacze bezpieczeństwa opisali kolejne narzędzia tego typu, m.in. FraudGPT, a firma Cato Networks wykazała, że nowsze warianty WormGPT oferowane na forach przestępczych działają w oparciu o popularne modele komercyjne (Grok i Mixtral) uruchamiane z ominiętymi zabezpieczeniami. To pokazuje, że nawet zamknięcie jednego projektu nie usuwa zjawiska — skłanianie modeli do szkodliwych zadań pozostaje stałym kanałem, choć operatorzy systematycznie zamykają luki.

Co dokładnie ułatwia AI

Model językowy nie włamuje się na serwery i nie kradnie haseł. Jego rola w przestępczości jest inna — usuwa trudności, które do niedawna chroniły potencjalne ofiary:

• Język. Wiadomości phishingowe pisane przez osoby niedołężnie znające język obcy łatwo było rozpoznać po błędach i sztywnej składni. Model pisze naturalnie, więc ta wskazówka znika.
• Wiedza merytoryczna. Przygotowanie wiarygodnego pisma procesowego, umowy albo korespondencji rzekomo z banku wymagało znajomości obowiązujących procedur. Model generuje takie teksty na życzenie.
• Skalowanie. Kampania oszustwa, która kiedyś wymagała zespołu, dziś jest w zasięgu jednej osoby z dostępem do narzędzi AI i listy adresów.
• Personalizacja. Na podstawie informacji z otwartych źródeł — mediów społecznościowych, stron firmowych — model przygotuje wiadomość odnoszącą się do konkretnej osoby, jej stanowiska i ostatnich wydarzeń.

To ostatnie jest najbardziej niepokojące: oszustwa przestają być masowe i anonimowe, a zaczynają być ukierunkowane na konkretnego odbiorcę, co znacznie podnosi ich skuteczność.

Jak się bronić

Podstawy obrony nie zmieniają się wraz z technologią, ale wymagają większej czujności:

• Weryfikuj kanał, nie treść. Wiadomość może być napisana bezbłędnie i brzmieć wiarygodnie — to już nie jest dowód autentyczności. Płatności i zmiany danych do faktur potwierdzaj drugim, niezależnym kanałem, najlepiej telefonicznie pod numerem znanym wcześniej.
• Uważaj na presję czasu. Oszustwa AI często wykorzystują pilność: „płatność dziś, inaczej blokada”. Presja to sygnał ostrzegawczy, nie argument.
• Nie ufaj wyłącznie osobie w korespondencji. W oszustwach na przejęcie płatności podszywanie się pod przełożonego albo kontrahenta to standard. Procedura weryfikacji powinna obejmować także wiadomości od znanych osób.
• Aktualizuj świadomość zespołu. Firmy, które szkolą pracowników w rozpoznawaniu phishingu, powinny uwzględnić w szkoleniach przykłady wiadomości generowanych przez modele — stare przykłady z literówkami już nie uczą.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.