Wszystkie artykuły o zagrożeniach AI (Strona 85)
70 procent dużych firm planuje lub już wdraża monitoring pracowników wspomagany sztuczną inteligencją. Systemy analizują maile, rozmowy na Slacku, czas reakcji na wiadomości i nawet ruchy myszy — a wyniki wpływają na oceny, awanse i decyzje o zwolnieniu.
Generują pisma procesowe, piszą bezbłędne wiadomości phishingowe, skalują oszustwa bez wiedzy specjalistycznej. Jak cyberprzestępcy wykorzystują modele językowe i dlaczego bariera wejścia do przestępczości internetowej spadła.
Sztuczna inteligencja rozpoznawania twarzy doprowadziła do aresztowania co najmniej kilku niewinnych osób w USA. Algorytmy popełniają błędy, ale odpowiedzialność spada na człowieka. Sprzeczny system argumentów.
Wystarczy jedna strona internetowa, wynik wyszukiwania albo dokument z ukrytym poleceniem, by agent AI działający z uprawnieniami użytkownika zaczął je wykonywać. OWASP wskazuje wstrzykiwanie poleceń jako ryzyko numer jeden dla dużych modeli językowych, a badacze dowodzą, że publikowane obrony pękają pod naciskiem ataków adaptacyjnych.
Klonowanie głosu i fałszywe wideo stały się tanim narzędziem walki politycznej. Im bliżej głosowania, tym większe ryzyko — i tym ważniejsza umiejętność weryfikacji.
Sztuczna inteligencja zmienia sposób prowadzenia kampanii wyborczych. Generowanie fałszywych nagrań kandydatów, hiperpersonalizowane przekazy dla pojedynczych wyborców i automatyzacja dezinformacji stają się standardem. Kraje na całym świecie wdrażają pilne regulacje.
W grudniu 2024 roku Rumunia unieważniła pierwszą turę wyborów prezydenckich po ujawnieniu skoordynowanej operacji na TikToku. Pierwszy taki przypadek w Unii Europejskiej pokazał, że algorytmy potrafią zmienić wynik głosowania bez fałszowania choćby jednej karty.
Pracownicy wklejają kod źródłowy, umowy i notatki ze spotkań do publicznych chatbotów, żeby szybciej skończyć pracę. Każde takie wklejenie to przekazanie danych firmowych zewnętrznemu serwisowi, często bez wiedzy działu IT i bez umowy o powierzeniu danych.
Systemy AI wspierają decyzje o areszcie, warunkowym zwolnieniu i wymiarze kary. Błędna ocena może pozbawić wolności niewinną osobę.
Coraz więcej konsumentów pisze wypowiedzenia umów z pomocą chatbota, a firmy odrzucają takie pisma jako niepochodzące od konsumenta. Legalne zastrzeżenie „praca człowieka” ma jednak ciasne granice, a za treść pisma i tak odpowiada człowiek — przypomniał o tym brytyjski Trybunał Apelacyjny ds. Pracy w sprawie Hancox.