4 artykułów
Systemy oceny ryzyka recydywy wspierają sądy przy decyzjach o areszcie i wymiarze kary, ale ich wyniki bywają obciążone historyczną dyskryminacją — a strona oskarżona często nie może ich zbadać.
Systemy AI do rekrutacji klasyfikowane jako high-risk w rozporządzeniu UE o AI. Algorytmy dziedziczą historyczne uprzedzenia, a ofiary często nie wiedzą, dlaczego zostały odrzucone. Prawo zaczyna nadganiać technologię.
Badanie Uniwersytetu Waszyngtońskiego: ludzie z rekomendacjami AI przejmują ich uprzedzenia — przy silnej stronniczości około 90 procent czasu. Pytanie nie brzmi, czy AI jest uprzedzone, ale jak wpływa na nas.
Badacze ze Stanforda przeanalizowali 4 miliony podanych o pracę ocenianych przez jedno narzędzie AI. Wynik: system zawyżał ryzyko dyskryminacji rasowej, a monokultura algorytmiczna sprawia, że odrzucenie w jednej firmie powiela się we wszystkich kolejnych.