#prompt-injection

4 artykułów

Asystent, który klika za ciebie: luki bezpieczeństwa agentów przeglądarkowych
agenci-ai

Asystent, który klika za ciebie: luki bezpieczeństwa agentów przeglądarkowych

Agent czyta twoją pocztę i klika po sieci w twoim imieniu — a złośliwa strona może mu wkręcić instrukcje. Testy nowych produktów ujawniły poważne luki.

Rozkaz ukryty w obrazku: prompt injection w dokumentach i multimediach
prompt-injection

Rozkaz ukryty w obrazku: prompt injection w dokumentach i multimediach

Instrukcje zapisane białym tekstem na białym tle lub w metadanych PDF przejmują kontrolę nad asystentami czytającymi dokumenty. Obrona wciąż dogania atak.

Największa luka w sztucznej inteligencji: prompt injection, DeepSeek-R1 i ukryte rozkazy w treści
cybersecurity

Największa luka w sztucznej inteligencji: prompt injection, DeepSeek-R1 i ukryte rozkazy w treści

Według raportu The Alan Turing Institute z listopada 2024 roku aż 75% pracowników korzysta z generatywnej sztucznej inteligencji, a 46% przyjęło ją w ciągu ostatniego roku. W grudniu 2024 roku The Guardian doniósł o podatności narzędzia ChatGPT Search na ataki typu indirect prompt injection. W styczniu 2025 roku Infosecurity Magazine opisała słabe mechanizmy bezpieczeństwa modelu DeepSeek-R1, który w testach zajął 17. miejsce na 19 pod względem odporności. Prompt injection pozostaje największą nierozwiązaną luką w modelach językowych.

Prompt injection: jak atakujący przejmują kontrolę nad modelami językowymi
prompt-injection

Prompt injection: jak atakujący przejmują kontrolę nad modelami językowymi

Atak prompt injection potrafi zmusić model językowy do ujawnienia poufnych instrukcji, wykonania nieautoryzowanych działań lub obchodzenia zabezpieczeń. To jedno z najpoważniejszych zagrożeń w erze agentów sztucznej inteligencji.