Wszystkie artykuły o zagrożeniach AI (Strona 22)
Przedsiębiorca z Sussex stracił 14 244 funty, gdy oszuści kupowali kredyty do chatbota Claude jego kartą. Bank zatrzymał jedną transakcję — a kolejne dziesiątki przepuścił. Przypadek pokazuje, że systemy antyfraudowe nie nadążają za płatnościami trafiającymi do firm AI.
Generative AI obniżyło koszt tworzenia dezinformacji niemal do zera. Klonowanie głosu, fałszywe artykuły i manipulacja demokracją — najważniejsze zagrożenia.
Eksperyment z monitorowaniem aktywności mózgu sugerował, że osoby piszące esej z LLM angażowały mózg słabiej i pamiętały mniej. Interpretacje i zastrzeżenia.
Modele uczone na treściach generowanych przez inne modele AI ulegają degradacji tak niewidocznej, jak postępującej. Badacze z Uniwersytetu w Oksfordzie nazwali ten proces «model collapse» — w skrajnych przypadkach kolejne generacje modeli produkują bezsensowny tekst, a nawet przestają istnieć prawie wszystko, co łączyło je z oryginalnymi danymi ludzkimi.
Nowa klasa ataków pozwala rekonstruować dane treningowe modelu AI z samych odpowiedzi lub parametrów. Ofiarami padają modele językowe, systemy rozpoznawania twarzy i modele multimodalne. Ryzyko jest realne także w produkcyjnych zastosowaniach.
Systemy rozpoznawania twarzy generują błędne identyfikacje, które prowadzą do nieuzasadnionych zatrzymań. Badanie Stanford HAI wskazuje, że 26 procent czarnych i 15 procent azjatyckich kandydatów doświadcza systemowej dyskryminacji przez narzędzia rekrutacyjne AI. AI Act i regulacje stanowe próbują odpowiedzieć, ale skuteczność pozostaje niepewna.
Metryki commitów, zrzuty ekranu i analiza aktywności klawiatury trafiają też do branży IT. Gdzie kończy się zarządzanie, a zaczyna inwigilacja?
Sztuczna inteligencja śledzi każdy klik, każdy mail, każdą przerwę. Pracownik nie wie, co algorytm o nim wie. I nie wie, czy to wiedzieć chce.
Badacze ze Stanforda przeanalizowali 4 miliony podanych o pracę ocenianych przez jedno narzędzie AI. Wynik: system zawyżał ryzyko dyskryminacji rasowej, a monokultura algorytmiczna sprawia, że odrzucenie w jednej firmie powiela się we wszystkich kolejnych.
Koszty klastrów i dostęp do chipów tworzą fosę, przez którą nie przejdzie startup. Koncentracja mocy obliczeniowej staje się problemem konkurencji.