Wszystkie artykuły o zagrożeniach AI (Strona 10)
Benchmarki modeli AI rzekomo mierzą ich zdolności, ale coraz częściej traktowane są instrument marketingu. Wyniki ulegają manipulacji, a ich realna użyteczność dla użytkowników maleje.
Systemy sztucznej inteligencji w diagnostyce medycznej powtarzają i pogłębiają istniejące nierówności. Badania wskazują na znaczne różnice w dokładności między grupami demograficznymi.
Systemy sztucznej inteligencji coraz częściej decydują o tym, kto dostanie pracę, kredyt, a nawet diagnozę medyczną. Problem polega na tym, że te decyzje bywają obciążone ukrytą dyskryminacją — rasową, płciową, ekonomiczną. Skąd się bierze i jak jej przeciwdziałać?
Algorytmy AI nie są neutralne — często reprodukują lub wręcz potęgują dyskryminację. Instancje od kredytów po rekrutację ujawniają, jak systematyczne błędy AI uderzają w najsłabsze grupy.
Systemy AI uczą się na danych historycznych, które odzwierciedlają dawne uprzedzenia. Algorytmy nie tylko je reprodukują, ale mogą potęgować, blokując naprawę niesprawiedliwości.
Algorytmiczne decyzje o zatrudnieniu, kredycie i ubezpieczeniu zaczynają trafiać przed sądy. Jak prawo reaguje na dyskryminację ukrytą w danych.
Systemy rekrutacyjne oparte na AI obiecują obiektywność, a scalają historyczne uprzedzenia. Setki badań z lat 2025–2026 pokazują, gdzie i jak algorytmy dyskryminują kandydatów.
Nowe badanie UW pokazuje, że ludzie kopiują uprzedzenia algorytmów w rekrutacji — gdy algorytmy dyskrymują, ludzie to odtwarzają w swoich decyzjach, utrwalając nierówności w procesie rekrutacji.
Systemy AI stosowane w rekrutacji często powielają historyczne uprzedzenia rasowe i płciowe. Przegląd mechanizmów, przypadków prawnych i zaleceń.
Według ACLU co najmniej czternaście osób zostało niesłusznie aresztowanych w USA po błędnym dopasowaniu przez algorytm rozpoznawania twarzy. W większości przypadków ofiarami są osoby czarnoskóre. Mechanizm jest powtarzalny: brak weryfikacji, brak szkolenia, brak odpowiedzialności.