6 artykułów
Algorytmy oceniające ryzyko recydywy pomagają sędziom. Badania pokazują, że systematycznie mylą się na szkodę ludzi kolorowych. Gdzie granica między pomoca a podjęciem decyzji za nas?
Badanie Uniwersytetu Waszyngtońskiego: ludzie z rekomendacjami AI przejmują ich uprzedzenia — przy silnej stronniczości około 90 procent czasu. Pytanie nie brzmi, czy AI jest uprzedzone, ale jak wpływa na nas.
Systemy AI do automatycznego oceniania mają ambicję zmniejszyć obciążenie nauczycieli. Badania pokazują, że dziedziczą i nasilają uprzedzenia, które dyskryminują uczennice iujących studentów.
Systemy AI w rekrutacji obiecują obiektywność, ale często utwarzają uprzedzenia historyczne. Analiza mechanizmów dyskryminacji, braków prawnych i sposobów na audit algorytmów zatrudniających.
Badanie Uniwersytetu Waszyngtońskiego pokazuje, że osoby współpracujące ze stronniczym rekomendatorem AI przejmują jego uprzedzenia — nawet wtedy, gdy samodzielnie byłyby bezstronne. Przy ostrym stronniczeniu ludzie podejmują decyzje niemal tak samo stronnicze jak system.
Algorytmy oceniające ryzyko recydywy są używane przez sądy na całym świecie. Badania pokazują, że mogą one wykazywać systematyczne uprzedzenia wobec określonych grup.