Automatyczne systemy scoringowe na granicach i ryzyko błędów
Algorytmy oceny ryzyka na przejściach granicznych mogą decydować o losie podróżnych. Błędy i brak przejrzystości budzą obawy o prawa człowieka.
Wszystkie artykuły o zagrożeniach AI (Strona 42)
Algorytmy oceny ryzyka na przejściach granicznych mogą decydować o losie podróżnych. Błędy i brak przejrzystości budzą obawy o prawa człowieka.
Rozpoznawanie twarzy, tęczówek i chodu zmienia przekraczanie granic w proces bez kontaktu z człowiekiem. Błędy systemów płacą najczęściej podróżni.
Chatboty odtwarzające głos i sposób mówienia zmarłych bliskich stają się realną usługą komercyjną. Badacze z Uniwersytetu w Cambridge ostrzegają, że bez standardów bezpieczeństwa griefboty mogą cyfrowo 'nawiedzać' żyjących, wykorzystywać żałobę do sprzedaży i utrwalać wizerunek zmarłego bez jego zgody.
Organizacje chroniące dzieci alarmują, że narzędzia AI przyspieszają budowanie fałszywej zażyłości z małoletnimi. Jak wygląda nowy schemat groomingu.
Generatywna AI zmienia gry wideo: NPC reagują naturalnie, ale rośnie ryzyko manipulacji i uzależnienia graczy.
W teście na 5 400 scenariuszach klinicznych modele AI powtarzały fałszywe informacje wprowadzone w zapytaniu w 50–82% przypadków. Nawet najlepsze z nich — przy domyślnych ustawieniach — nie przekraczały progu 50% poprawnych odpowiedzi.
Modele językowe z pewnością siebie podają nieprawdziwe informacje, cytują nieistniejące orzeczenia i wymyślają referencje naukowe. Zjawisko halucynacji staje się jednym z najgroźniejszych problemów wdrożeniowych AI.
Narzędzia AI potrafią generować przekonujące, lecz nieistniejące orzeczenia i przepisy, co zagraża sprawom sądowym.
Modele językowe w medycynie nie tylko pomagają — czasem tworzą fakty od zera. Badania pokazują, że błędy AI w diagnostyce i przepisywaniu recept są powszechne i mogą skutkować poważnymi skutkami dla pacjentów.
Sztuczna inteligencja potrafi tworzyć przekonujące, ale całkowicie fikcyjne cytaty prawne. Sądy coraz oftiej spotykają się z takimi wnioskami.