Agenci AI: kiedy sztuczna inteligencja ucieka spod kontroli
Agenci AI działają samodzielnie – planują, używają narzędzi, podejmują decyzje. Co się dzieje, gdy przestaną być pod kontrolą?
13 artykułów
Agenci AI działają samodzielnie – planują, używają narzędzi, podejmują decyzje. Co się dzieje, gdy przestaną być pod kontrolą?
Agencja Praw Podstawowych UE alarmuje: zdalna biometryczna identyfikacja w przestrzeni publicznej zagraża prawom obywatelskim. Sprawdzamy, gdzie stoi granica między security a wolnością.
Modele AI decydowały o limitach kredytowych i świadczeniach rodzinnych. Gdy pojawiły się pytania, dlaczego odmówiły, wyjaśnienia szukało się miesiącami — a w niektórych sprawach nie było go wcale.
Sztuczna inteligencja tworzy realistyczne imitacje głosu i twarzy. Jak to wykorzystują przestępcy w oszustwach bankowych i co robi prawo.
Systemy AI stosowane w rekrutacji, ocenie kredytowej i nadzorze mogą utrwalać istniejące nierówności społeczne. Europejskie regulacje — w tym AI Act — próbują temu przeciwdziałać, ale skuteczność ograniczeń pozostaje niepewna.
W maju 2025 r. polski parlament przyspieszył ustawę zezwalającą na AI-nadzór w przestrzeni publicznej bez wcześniejszego nakazu sądowego. Czy to krok w stronę bezpieczeństwa, czy naruszenie praw obywatelskich i konflikt z unijnym prawem?
Systemy rozpoznawania twarzy generują błędne identyfikacje, które prowadzą do nieuzasadnionych zatrzymań. Badanie Stanford HAI wskazuje, że 26 procent czarnych i 15 procent azjatyckich kandydatów doświadcza systemowej dyskryminacji przez narzędzia rekrutacyjne AI. AI Act i regulacje stanowe próbują odpowiedzieć, ale skuteczność pozostaje niepewna.
Cyfrowy nadzór nad pracownikami może zwiększać ryzyko urazów, pogarszać zdrowie psychiczne i szkodzić szansom zawodowym. Przegląd 122 badań zestawiamy z obowiązkami, które nakłada na pracodawców unijny AI Act.
Tanie zestawy EEG i implanty generują dane, z których da się odczytać emocje, uwagę i zmęczenie człowieka. Sztuczna inteligencja daje narzędzia do masowej analizy takich sygnałów, a prawo — także europejskie — dopiero uczy się klasyfikować dane z mózgu jako dane szczególnej kategorii.
Wlozeskie organy ochrony danych zakazaly ChatGPT. Co sie stalo i czy podobne kroki moga czekac inne panstwa? Przeglad kluczowych wydarzen i przepisow.
AI Act wchodzi w życie etapami, a już teraz ma wyłomy pisane pod konkretne zastosowania: nadzór nad tłumem, kontrole na granicy, policyjne bazy twarzy. W tle — lobbing i rozmyta linia między „bezpieczeństwem" a inwigilacją.
Systemy AI skanują twarze w przestrzeni publicznej bez zgody obywateli. Unijny AI Act zakazuje zdalnej identyfikacji biometrycznej w czasie rzeczywistym, ale wyjątki i brak egzekucji pozostawiają furtkę dla masowej inwigilacji.
Francuski rząd zalegalizował algorytmiczny nadzór wideo na Igrzyskach w Paryżu, holenderska policja utrzymywała bazę twarzy ze zdjęciami ludzi uniewinnionych przez sądy, a Europol kupił system rozpoznawania twarzy oceniony przez własnego radcę jako niosący ryzyko fałszywych trafień. Europa buduje infrastrukturę szybciej, niż ją porządkuje.