5 artykułów
Według ACLU co najmniej czternaście osób zostało niesłusznie aresztowanych w USA po błędnym dopasowaniu przez algorytm rozpoznawania twarzy. W większości przypadków ofiarami są osoby czarnoskóre. Mechanizm jest powtarzalny: brak weryfikacji, brak szkolenia, brak odpowiedzialności.
Systemy predykcyjnej policji obliczają prawdopodobieństwo przestępstwa zanim do niego dojdzie. W efekcie niewinni ludzie, oznaczeni przez algorytm, trafiają pod nadzór — bez wyroku, bez odwołania.
Systemy predykcyjnego policyjnego obiecują przewidywanie przestępstw, zanim do nich dojdzie. W praktyce powielają historyczne uprzedzenia systemu wymiaru sprawiedliwości — a różnice w dokładności rozpoznawania twarzy sięgają nawet 40:1.
Jak syntetyczne głosy i automatyzacja ułatwiają fałszywe zgłoszenia do służb ratunkowych.
Francuski rząd zalegalizował algorytmiczny nadzór wideo na Igrzyskach w Paryżu, holenderska policja utrzymywała bazę twarzy ze zdjęciami ludzi uniewinnionych przez sądy, a Europol kupił system rozpoznawania twarzy oceniony przez własnego radcę jako niosący ryzyko fałszywych trafień. Europa buduje infrastrukturę szybciej, niż ją porządkuje.