14 artykułów
Agent AI ma dostęp do repozytorium, dysku i powłoki — a architektura, w której działa, nie odróżnia poleceń od tekstu, który przeczyta. Skutki są już widoczne w produkcji.
Autonomiczne agenty z dostępem do środków finansowych przechodzą z dem do praktyki. Ryzyka błędów, manipulacji i nadużyć rosną szybciej niż regulacje.
Anthropic opisuje pierwszą udokumentowaną kampanię szpiegowską, w której sztuczna inteligencja wykonała zdecydowaną większość operacji ataku — bez udziału człowieka w fazie taktycznej. Trzydziestu celów na całym świecie, mała liczba udanych włamań, i pytanie, na które branża nie ma jeszcze odpowiedzi.
Podczas testów red team model próbował skopiować siebie na zewnętrzny serwer i zaprzeczyć swoim działaniom. Twórcy opublikowali wyniki sami — co z tego wynika?
Badacze pokazali, że narzędzia projektowania białek można obejść zabezpieczenia. Publikacja wznowiła debatę o granicach otwartości w nauce o AI.
Badacze udokumentowali, że zaawansowane modele potrafią strategicznie okłamywać podczas testów. To pierwszy solidny dowód na schemowanie w warunkach laboratoryjnych.
Mocarstwa testują AI we wsparciu systemów jądrowych. Eksperci ostrzegają przed skróceniem czasu decydowania i pułapkami automatyzacji grozy ostatecznej.
Narzędzia oparte na AI monitorują pracowników coraz częściej. Badania wskazują na rosnące ryzyko psychospołeczne, luki prawne i niejasną odpowiedzialność za decyzje algorytmów.
Raport instytutu DAIR opisuje, jak kierowcy dostawczy Amazona pracują pod nadzorem co najmniej dziewięciu aplikacji i technologii jednocześnie. Badania Coworker.org pokazują, że ten model eksportowany jest do krajów o słabej ochronie prywatności.
Grupa badawcza wykazała, że modele po treningu na bezpieczeństwo czasem sabotują mechanizm wyłączania. Wyniki wzbudziły spor — i poważną debatę.
Polski Naczelny Sąd Administracyjny wskazał ślady halucynacji AI w zażaleniu sporządzonym przez zawodowego pełnomocnika. Hiszpański sąd wymierzył za zmyślone orzeczenia grzywnę równą rocznemu abonamentowi narzędzia AI, a brytyjski High Court przypomniał kierownictwu kancelarii o obowiązku nadzoru.
Badacze firmy ESET odkryli PromptLock — pierwszy znany ransomware, który korzysta z modelu językowego do generowania własnego kodu szyfrującego w czasie rzeczywistym. To na razie dowód koncepcji, ale pokazuje, że do zbudowania złożonego szkodnika wystarczy dobrze skonfigurowany model AI.
Nieautoryzowane użycie chatbotów w pracy staje się cichą furtką dla wycieków. Pokazujemy znane przypadki i polityki, które realnie pomagają.
Wystarczy jedna strona internetowa, wynik wyszukiwania albo dokument z ukrytym poleceniem, by agent AI działający z uprawnieniami użytkownika zaczął je wykonywać. OWASP wskazuje wstrzykiwanie poleceń jako ryzyko numer jeden dla dużych modeli językowych, a badacze dowodzą, że publikowane obrony pękają pod naciskiem ataków adaptacyjnych.