Rozpoznawanie twarzy w policji: czternaście niesłusznych aresztowań i system, który uczy się na błędach
Rozpoznawanie twarzy miało być narzędziem do eliminowania błędu ludzkiego. W praktyce stało się narzędziem, które multiplikuje ludzkie uprzedzenia — z konsekwencjami, które można zmierzyć w dniach spędzonych w areszcie.
Według danych zebranych przez ACLU, co najmniej czternaście osób zostało publicznie zidentyfikowanych jako ofiary błędnych dopasowań algorytmu rozpoznawania twarzy w amerykańskich sprawach karnych. Lista obejmuje przypadki z Detroit, St. Louis, New Jersey, Luizjany, Maryland, Nevadzie, Nowym Jorku, Północnej Dakocie, na Florydzie i w Arizonie. Ostatni znany przypadek — zatrzymanie Beau Burgessa w Orlando w sierpniu 2025. Wcześniej, w lipcu 2025, Angela Lipps została zatrzymana przez amerykańskich marszałków na podstawie nakazu wydanego w Północnej Dakocie — mimo że w chwili domniemanego przestępstwa znajdowała się setki kilometrów dalej.
Wzorzec jest taki sam. Policjant przesyła zdjęcie z monitoringu do systemu rozpoznawania twarzy — najczęściej Clearview AI lub systemu FACESNXT — i otrzymuje listę kandydatów uznanych za podobnych. Następnie zatrzymuje pierwszą osobę z listy, nie sprawdzając alibi, nie weryfikując, czy osoba w ogóle mogła być na miejscu przestępstwa, nie przeprowadzając klasycznej pracy śledczej. W kilku przypadkach śledczy zatrzymywali osoby, których podstawowe cechy fizyczne nie zgadzały się z opisem świadków — Robert Williams miał widoczne różnice wzrostu i wagi, Porcha Woodruff była w ósmym miesiącu ciąży, Trevis Williams miał inną budowę niż podejrzany. To nie są subtelne różnice.
W czerwcu 2025 w Luizjanie zakończyła się głośna sprawa Randal Quayana Reida. Mężczyzna został zatrzymany w Georgii na podstawie nakazu z parafii Jefferson za kradzież torebek w luksusowym sklepie w Metairie. Jedynym dowodem było dopasowanie z Clearview AI. Reid spędził sześć dni w areszcie, zanim policjant wpadł na pomysł sprawdzenia bilingu telefonicznego — ten pokazał, że w chwili przestępstwa był w Georgii. Sprawa zakończyła się ugodą: biuro szeryfa wypłaciło 200 tysięcy dolarów odszkodowania.
Problem nie leży w samym algorytmie, ale w sposobie jego użycia. Dokumenty sądowe pokazują, że w wielu departamentach policji nie istnieją żadne procedury szkoleniowe ani formalne polityki dotyczące korzystania z rozpoznawania twarzy, mimo że technologia ta była używana od lat. W przypadku Reida śledczy nie wspomniał w dokumentacji aresztowania, że identyfikacja pochodziła z algorytmu — napisał jedynie o „wiarygodnym źródle”. To nie jest incydent; to schemat.
Większość znanych ofiar to osoby czarnoskóre. To nie przypadek. Badania, w tym raport Georgetown Center on Privacy and Technology, od lat dokumentują wyższy wskaźnik fałszywych dopasowań dla osób o ciemniejszym kolorze skóry, kobiet, osób starszych i młodszych. Algorytm trenuje na bazach, w których te grupy są reprezentowane słabiej, a system, który nie wymaga dodatkowej weryfikacji, przenosi tę asymetrię wprost na decyzje operacyjne policji.
Nowy Jork i Luizjana rozważają poluzowanie ograniczeń w użyciu rozpoznawania twarzy w czasie rzeczywistym. W Detroit, po sprawie Roberta Williamsa, policja nie może już wydawać nakazów aresztowania wyłącznie na podstawie dopasowania z algorytmu. Indiana wprowadziła podobne zabezpieczenie na poziomie stanowym. To krok w dobrym kierunku, ale nie rozwiązuje problemu systemowego: technologia, której wskaźnik fałszywych alarmów jest nieakceptowalny, wciąż pozostaje w rękach instytucji, które nie ponoszą konsekwencji swoich błędów.
Czternaście przypadków, które znamy, to wierzchołek góry lodowej. Większość ofiar nigdy nie trafia do mediów. A każdy z tych przypadków oznacza tygodnie lub miesiące ludzkiego życia zniszczonego przez algorytm, który nie miał prawa decydować o czyjejś wolności.
