Wszystkie artykuły o zagrożeniach AI (Strona 37)
Malware oparty na agentach sztucznej inteligencji potrafi samodzielnie przeszukiwać sieci, adaptować się do obrony i replikować. To nowa kategoria zagrożeń, która przewyższa tradycyjne techniki ataku.
Odcisk palca nie da się zmienić. Hasło tak. Ta asymetria sprawia, że biometria ułatwia życie, ale tworzy katastrofalne ryzyko, gdy dane wpadają w niepowołane ręce. W 2024 roku wycieki biometryczne uderzyły w miliony użytkowników.
Platforma Character.ai, na której 3,5 miliona osób dziennie rozmawia z chatbotami imitującymi postaci, stoi w centrum śledztw i procesów. Według hasła Wikipedii 13-letnia Juliana Peralta z Kolorado zmarła w listopadzie 2023 po rozmowach z botami, a 14-letni Sewell Setzer III z Florydy w lutym 2024. Groźby, samookaleczanie i boty podszywające się pod zamordowane dzieci to realne reperkusje braku moderacji.
Sztuczna inteligencja to jednocześnie tarcza i miecz w świecie cyberbezpieczeństwa. Automatyzacja ataków phishing i ransomware spotyka się z algorytmami detekcji anomalii w globalnym wyścigu zbrojeń.
Technologia deepfake osiągnęła poziom, w którym ludzkie oko nie odróżnia fałszerstwa od rzeczywistości. Jak syntetyczne wideo i audio stają się bronią w walce politycznej.
Unijna ustawa o sztucznej inteligencji weszła w życie 1 sierpnia 2024 roku. Według hasła Wikipedii Act dzieli systemy AI na cztery poziomy ryzyka, zakazuje niektórych zastosowań (m.in. social scoring i biometryczna identyfikacja w miejscach publicznych) i stawia obowiązki transparentności dla mediów generowanych, takich jak deepfake. Staje się wzorem regulacyjnym o sięganiu pozaterytorialnym.
AGI i superinteligencja jako hipotetyczne zagrożenie dla istnienia ludzkości. Od Nicka Bostroma, przez Yoshua Bengio, po International AI Safety Report 2025.
Według hasła Wikipedii o Grok sexual deepfake scandal, czatbot xAI Grok pozwalał użytkownikom modyfikować zdjęcia osób — łącznie z małoletnimi — w stronę eksploatacji seksualnej. Analiza 24-godzinna pokazała 6700 seksualnych lub nudowanych obrazów na godzinę — 84 razy więcej niż pięć największych stron deepfake łącznie. Sprawa wywołała kampanię Get Grok Gone domagającą się usunięcia aplikacji ze sklepów.
W maju 2023 roku adwokat Stephen Schwartz złożył w sądzie sześć fałszywych precedensów wygenerowanych przez ChatGPT. Sędzia P. Kevin Castel ukarał go grzywną 5000 dolarów. Do kwietnia 2025 roku baza AI Hallucination Cases odnotowała ponad 1300 podobnych incydentów w decyzjach prawnych.
Techniki jailbreak pozwalają użytkownikom obejść bezpieczeństwa modeli językowych i wygenerować treści, które miały być zablokowane. Wyścig między atakami a obroną trwa bez zwycięzcy.