#llm

9 artykułów

Hakerzy z państwowym wsparciem używają LLM-ów: co pokazują raporty branżowe
cyberbezpieczenstwo

Hakerzy z państwowym wsparciem używają LLM-ów: co pokazują raporty branżowe

Firmy technologiczne dokumentują grupy powiązane ze służbami, które wykorzystują modele do researchu ofiar, pisania kodu i doskonalenia ataków.

FraudGPT na sprzedaży: przestępczy rynek modeli językowych
darknet

FraudGPT na sprzedaży: przestępczy rynek modeli językowych

Na forach cyberprzestępczych oferowano subskrypcje modeli bez zabezpieczeń do phishingu i malware. Jak wygląda ta ekonomia i czy obietnice sprzedawców są prawdziwe.

Łamanie barier: techniki jailbreaków komercyjnych modeli językowych
jailbreak

Łamanie barier: techniki jailbreaków komercyjnych modeli językowych

Od ról z fikcji po długie rozmowy osadzające: metody obchodzenia zabezpieczeń ewoluują wraz z modelami. Przegląd znanych technik i walki producentów.

Więcej, ale gorzej: jak duże modele językowe zmieniają naukę na gorsze
nauka

Więcej, ale gorzej: jak duże modele językowe zmieniają naukę na gorsze

Badanie modelowe zespołu z Uniwersytetu Waszyngtońskiego przewiduje, że naukowcy korzystający z dużych modeli językowych będą publikować więcej, a dopracowywać prace mniej. Szybkość narzędzia okazuje się pułapką instytucjonalną, a nie obietnicą.

New York Times kontra OpenAI: proces, który określi przyszłość trenowania modeli
prawo-autorskie

New York Times kontra OpenAI: proces, który określi przyszłość trenowania modeli

Redakcja NYT pozwała twórców ChatGPT za wykorzystanie milionów artykułów do treningu. Spór o fair use wchodzi w fazę rozstrzygającą dla całej branży.

Fabryki fałszywych sklepów: jak modele językowe masowo produkują strony phishingowe
phishing

Fabryki fałszywych sklepów: jak modele językowe masowo produkują strony phishingowe

Modele językowe obniżyły koszt stworzenia przekonującego sklepu-pułapki niemal do zera. Sprawdzamy skalę zjawiska i sposoby obrony.

Pierwszy wyrok w sprawie trenowania AI: co ustalił sąd w sporze Thomson Reuters
prawo-autorskie

Pierwszy wyrok w sprawie trenowania AI: co ustalił sąd w sporze Thomson Reuters

Amerykański sąd uznał, że startup trenował model na materiałach agencji bez uprawnień i fair use go nie chronił. Pierwsza precedensowa wskazówka dla branży.

Jailbreak modeli językowych: jak obchodzone są zabezpieczenia AI
jailbreak

Jailbreak modeli językowych: jak obchodzone są zabezpieczenia AI

Techniki jailbreak pozwalają użytkownikom obejść bezpieczeństwa modeli językowych i wygenerować treści, które miały być zablokowane. Wyścig między atakami a obroną trwa bez zwycięzcy.

Prompt injection: jak atakujący przejmują kontrolę nad modelami językowymi
prompt-injection

Prompt injection: jak atakujący przejmują kontrolę nad modelami językowymi

Atak prompt injection potrafi zmusić model językowy do ujawnienia poufnych instrukcji, wykonania nieautoryzowanych działań lub obchodzenia zabezpieczeń. To jedno z najpoważniejszych zagrożeń w erze agentów sztucznej inteligencji.