Syntetyczne materiały pedofilskie generowane przez AI — luka prawna i technologiczna
Rozwój modeli generatywnych typu Stable Diffusion, Midjourney czy DALL-E otworzył drzwi do masowego tworzenia syntetycznych materiałów przedstawiających wykorzystywanie seksualne dzieci (CSAM — Child Sexual Abuse Material). W przeciwieństwie do tradycyjnych materiałów pedofilskich, tu nie ma fizycznej ofiary — obrazy są generowane matematycznie, na podstawie wzorców nauczonych z legalnych zbiorów danych. To stawia prawo, egzekwowanie i platformy przed wyzwaniem bez precedensu.
W Stanach Zjednoczonych ustawa PROTECT Act z 2003 roku kategoryzuje photorealistyczne obrazy generowane komputerowo jako nielegalne, jeśli są „wirtualnie nieodróżnialne” od prawdziwych. W Unii Europejskiej dyrektywa 2011/93/UE oraz nowelizowane przepisy z 2024 roku (DSA, CSA Regulation) rozszerzają definicję CSAM na treści syntetyczne. Polska ustawa o przeciwdziałaniu przestępstwom na tle seksualnym (art. 200b K.K.) od 2023 roku objęła karalnością też materiały generowane przez AI. Problemem pozostaje egzekwowanie: jak udowodnić, że dany plik jest syntetyczny, a nie prawdziwy zdjęcie ukryte w chmurze?
Badacze Internet Watch Foundation (IWF) w raporcie z października 2024 roku zidentyfikowali ponad 20 tysięcy syntetycznych obrazów CSAM na jednym tylko forum w sieci Tor w ciągu sześciu miesięcy. Większość powstawała za pomocą otwartych modeli (Stable Diffusion 1.5, SDXL) dopracowanych techniką LoRA (Low-Rank Adaptation) na nielegalnych zestawach treningowych. Twórcy takich modeli udostępniają je na platformach typu Civitai, Hugging Face czy GitHub — często jako „artystyczne eksperymenty”, de facto ułatwiając przestępstwa.
Platformy hostingowe i dostawcy usług chmurowych stoją przed dylematem: skanowanie treści użytkowników pod kątem CSAM narusza prywatność i szyfrowanie end-to-end, a nie skanowanie pozwala na swobodny przepływ materiałów. Apple w 2022 roku wycofało system CSAM Detection pod presją organizacji praw człowieka. Google, Microsoft i Meta używają hashów (PhotoDNA, PDQ) porównywanych z bazami NCMEC — ale hashe działają tylko na znane pliki. Syntetyczne obrazy są unikalne, nie mają odpowiedników w bazach.
Nowe podejście to klasyfikatory oparte na AI (np. Google Content Safety API, Thorn Safer) wykrywające cechy wizualne’exploitation niezależnie od hasha. Ich skuteczność na syntetycznych materiałach wynosi według wewnętrznych testów 85–92%, ale fałszywe alarmy przy legalnej treści (art, edukacja, medycyna) pozostają problemem. W 2025 roku komisja europejska zaproponowała obowiązkowe skanowanie komunikatów prywatnych (tzw. „chat control 2.0”), co wywołało opór Parlamentu Europejskiego i organizacji cyfrowych praw człowieka.
Z perspektywy technicznej kluczowe jest zatrzymanie dystrybucji modeli dopracowanych na CSAM. Hugging Face i Civitai wdrożyły polityki usuwania takich modeli, ale de-centralizacja (BitTorrent, IPFS, prywatne serwery) utrudnia kontrolę. W 2024 roku badacze z Stanford Internet Observatory znaleźli w zbiorze LAION-5B (używanym do treningu Stable Diffusion) tysiące linków do znanych materiałów CSAM — co oznacza, że modele mogły uczyć się na nielegalnych danych. LAION usunął te próbki, ale modele już wytrenowane (SD 1.5, SD 2.1) zachowały wiedzę.
Dla społeczeństwa i legislatora wniosek jest jeden: syntetyczne CSAM nie jest „bezofiarowym zbrodnią”. Normalizuje pedofilskie fantazje, służy do grooming-u (przygotowania ofiary przez pokazywanie „tak to wygląda”), zagłusza systemy wykrywania prawdziwych ofiar, a jego produkcja jest tania i skalowalna. Regulacje muszą objąć nie tylko posiadanie i dystrybucję, ale też tworzenie i udostępnianie modeli zoptymalizowanych pod CSAM. Bez tego prawo goni technologię, która ucieka w przód.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
