Hakerzy z państwowym wsparciem używają LLM-ów: co pokazują raporty branżowe
Firmy technologiczne dokumentują grupy powiązane ze służbami, które wykorzystują modele do researchu ofiar, pisania kodu i doskonalenia ataków.
9 artykułów
Firmy technologiczne dokumentują grupy powiązane ze służbami, które wykorzystują modele do researchu ofiar, pisania kodu i doskonalenia ataków.
Na forach cyberprzestępczych oferowano subskrypcje modeli bez zabezpieczeń do phishingu i malware. Jak wygląda ta ekonomia i czy obietnice sprzedawców są prawdziwe.
Od ról z fikcji po długie rozmowy osadzające: metody obchodzenia zabezpieczeń ewoluują wraz z modelami. Przegląd znanych technik i walki producentów.
Badanie modelowe zespołu z Uniwersytetu Waszyngtońskiego przewiduje, że naukowcy korzystający z dużych modeli językowych będą publikować więcej, a dopracowywać prace mniej. Szybkość narzędzia okazuje się pułapką instytucjonalną, a nie obietnicą.
Redakcja NYT pozwała twórców ChatGPT za wykorzystanie milionów artykułów do treningu. Spór o fair use wchodzi w fazę rozstrzygającą dla całej branży.
Modele językowe obniżyły koszt stworzenia przekonującego sklepu-pułapki niemal do zera. Sprawdzamy skalę zjawiska i sposoby obrony.
Amerykański sąd uznał, że startup trenował model na materiałach agencji bez uprawnień i fair use go nie chronił. Pierwsza precedensowa wskazówka dla branży.
Techniki jailbreak pozwalają użytkownikom obejść bezpieczeństwa modeli językowych i wygenerować treści, które miały być zablokowane. Wyścig między atakami a obroną trwa bez zwycięzcy.
Atak prompt injection potrafi zmusić model językowy do ujawnienia poufnych instrukcji, wykonania nieautoryzowanych działań lub obchodzenia zabezpieczeń. To jedno z najpoważniejszych zagrożeń w erze agentów sztucznej inteligencji.