11 artykułów
Systemy AI w rekrutacji i ocenie kredytowej powtarzają i wzmacniają istniejące nierówności. Badania z 2025 roku pokazują, że algorytmy faworyzują określone grupy, mimo rzekomej obiektywności.
Systemy AI wspierają sędziów w ocenie ryzyka nawrotu na przestępstwo. Badania pokazują, że ich prognozy faworyzują uwięzienie i obciążone są uprzedzeniami rasowymi i wiekowymi. Kalifornia odpowiada statystycznymi dowodami.
Według ACLU co najmniej czternaście osób zostało niesłusznie aresztowanych w USA po błędnym dopasowaniu przez algorytm rozpoznawania twarzy. W większości przypadków ofiarami są osoby czarnoskóre. Mechanizm jest powtarzalny: brak weryfikacji, brak szkolenia, brak odpowiedzialności.
Systemy AI coraz częściej wspierają diagnozy. Gdy się mylą, błąd bywa trudny do wykrycia, bo ukryty jest za autorytetem technologii.
Ponad 60 proc. organizacji wdrażających AI w rekrutacji, kredytowaniu i ochronie zdrowia nigdy nie przeprowadziło formalnego audytu algorytmicznego. W międzyczasie incydenty dyskryminacji wzrosły o 45 proc. między 2023 a 2025 rokiem.
Algorytmy rekomendacyjne nie dbają o nasze samopoczucie — optymalizują czas spent na ekranie. Nowe badania pokazują, że systemy te mogą wywoływanie i nasilać negatywne stany emocjonalne.
Banki i firmy pożyczkowe coraz częściej powierzają decyzje o kredycie algorytmom. Co oznacza to dla klientów i jakie prawa przysługują w razie automatycznej odmowy.
Systemy wspierające sędziów w orzekaniu mogą utrwalać uprzedzenia i osłabiać niezawisłość sądów.
Algorytmy oceny ryzyka w ubezpieczeniach mogą utrwalać uprzedzenia i prowadzić do niesprawiedliwych cen polis dla wybranych grup.
Systemy AI oceniające kandydatów do pracy i wnioski kredytowe mogą powielać i wzmacniać ludzkie uprzedzenia. Jak działają uprzedzenia algorytmiczne i jak się przed nimi chronić.
Systemy AI wspierają decyzje o areszcie, warunkowym zwolnieniu i wymiarze kary. Błędna ocena może pozbawić wolności niewinną osobę.