Fałszywe informacje generowane przez AI: detekcja w epoce large language models
Fałszywe informacje generowane przez AI: detekcja w epoce large language models
Wraz z rozwojem modeli językowych large language models (LLM) problem fake newsów nabrał nowego wymiaru. Do tej pory fałszywe informacje tworzyli ludzie – i to oni byli głównym celem systemów detekcyjnych. Obecnie jednak generatywna sztuczna inteligencja potrafi produkować przekonujące teksty w skali, która wykraczaza possibility ludzkiej kontroli.
Badanie opublikowane w 2025 roku na konferencji NAACL Human Language Technologies przeanalizowało, czy LLMy same radzą sobie z detekcją fake newsów. Wynik jest niepokojacy: średnia accuracy wyniosła zaledwie 60 proc. – zarówno dla modeli, jak i dla ludzkich oceniających. Oznacza to, że ani maszyny, ani ludzie nie są w stanie jednoznacznie odróżnić prawdziwych wiadomości od fałszywych generowanych przez AI.
Inne badanie, opublikowane w czasopiście AI & Society we wrześniu 2025 roku, przeprowadził reviewscope covering generację, detekcję, mitigację i impact misinformation. Wnioski są jednoznaczne: generatywne AI zmienia strukturę zagrożenia – fake newsy nie są już tylko problemem content quality, ale całością ekosystemu, w którym generacja, dystrybucja i detekcja wzajemnie się nakładają.
Jedną z kluczowych asymetrii wykazali badacze z arXiv w pracy When Machines Lie Differently. Ich eksperymenty wykazały, że AI-generowane fake newsy są wykrywane z niemal idealną accuracy, natomiast fałszywe informacje napisane przez ludzi są znacznie trudniejsze do odróżnienia od prawdziwych. To paradoks: systemy detekcyjne doskonale radzą sobie z tym, co maszynowe, ale zawodzą przed złożonym, celowo sformułowanym tekstem_autora ludzkiego.
W praktyce oznacza to, że walka z misinformation wymagahybrydowego podejścia – łączenia automatycznych detektorów z analizą redakcyjną i weryfikacją faktów przez ludzi. Tym bardziej że badania wskazują, że najtrudniejszym przypadkiem jest kolaboracja człowieka i AI: kiedy someone uses AI do wygenerowania tekstu, a następnie ręcznie go edytuje i optymalizuje pod kątem przekonywania, accuracy detekcji spada poniżej 60 proc.
W Polsce problem ten jest particularly relevant w kontekście wyborów i debaty publicznej. NASK, polski ośrodek badawczy, regularnie raportuje o wzroście liczby fake content w mediach społecznościowych. Kluczowe wyzwanie nie leży tylko w technologii detekcji, ale also w edukacji medialnej – users muszą zdawać sobie sprawę, że even professional-looking news may be AI-generated.
Oznaczeniecontents AI
Ten powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
