Hipernadzór twarzy: Clearview AI, miliardy zdjęć i ryzyko błędnych aresztowań
Baza zbudowana z internetu
Clearview AI to amerykańska firma specjalizująca się w rozpoznawaniu twarzy, dostarczająca oprogramowanie głównie organom ścigania i innym agencjom rządowym. Jak opisuje hasło „Clearview AI” na Wikipedii, algorytm firmy dopasowuje twarze do bazy ponad 20 miliardów obrazów zebranych z internetu, w tym z aplikacji mediów społecznościowych. Firma, założona przez Hoan Ton-Thata, Charlesa Johnsona i Richarda Schwartza, utrzymywała niski profil aż do końca 2019 roku, kiedy to jej użycie przez organy ścigania zostało po raz pierwszy opisane.
Sama skala bazy czyni z Clearview coś jakościowo innego niż tradycyjne rejestry biometryczne. W tradycyjnym ujęciu państwo posiada zdjęcia obywateli z dowodów tożsamości i paszportów; u Clearview zamiast tego mamy prywatną bazę zebraną z publicznie dostępnego internetu — zazwyczaj bez wiedzy i zgody fotografowanych. W sierpniu 2021 firma twierdziła, że zebrała z internetu już 10 miliardów zdjęć;według materiałów cytowanych w haśle liczba ta wzrosła do ponad 20 miliardów.
Wyciek danych i lista klientów
Hasło Wikipedii zwraca uwagę, że w 2020 roku doszło do wycieku danych Clearview AI, z którego wynikało, że 2 200 organizacji w 27 krajach otrzymało konta z dostępem do wyszukiwania w bazie rozpoznawania twarzy. W świetle wycieku „prywatna” baza demaskuje swoją rzeczywistą postać: nie tylko używana by organami ścigania, lecz dostępna szerzej — do firm, investorów, a jak pokazuje historia funduszy, do indywidualnych klientów z różnych branż.
Ten sam wyciek ujawnił kontrowersyjny fragment wczesnej kultury firmy. Według materiałów cytowanych w haśle, miliarder John Catsimatidis — wczesny użytkownik — wykorzystał aplikację do zidentyfikowania osoby, z którą spotykał się jego córka; uruchomił też próbnie system w jednej z delikatesów w Nowym Jorku do identyfikacji kieszonkowców. To poglądowe przykłady ryzyka, jakie pojawia się, gdy funkcja rozpoznawania twarzy staje się dostępna nieformalnie — od identyfikacji konkubenta dziecka do prywatnego nadzoru w sklepie.
Roz liczbowonych aresztowań i profilowania
Hasło “Hiper-surveillance” na Wikipedii, opisuje hipernadzór jako szczegółową inwigilację całości lub znacznej frakcji populacji z użyciem technologii oraz naruszeń bezpieczeństwa w celu dostępu do informacji. Rozszerza się on poza agencje kontroli przestępczości — do szkół, organizacji społecznych i miejsc pracy. Rozpoznawanie twarzy może działać pasywnie: bez wiedzy ani zgody fotografowanej osoby.
Z innej strony, systemy Clearview AI bywają oceniane krytycznie za błędy. Jak relacjonuje to samo hasło, Clearview AI sam informował, że jego narzędzie znajduje dopasowania w około 75 procentach przypadków — co w praktyce oznacza, że jeden na cztery wyniki zawiera błąd. Nawet pobieżna kalkulacja wskazuje, że liczba ta jest niepokojąca: w skali państwa, gdzie organy ścigania dokonują milionów identyfikacji rocznie, nawet 25-procentowa stopa błędów powinna prowadzić do wielu błędnych aresztowań. Hasło Wikipedii opisuje to bezpośrednio: „the use of facial recognition technologies have biases leading to misclassifications causing wrongful arrests”.
Najbardziej omawianą wymiar ryzyka dotyczy profilowania rasowego. W ujęciu hipernadzoru, mężczyźni kolorowi są częściej legitymowani przez policję; w niektórych sąsiedztwach policja legitymuje ponad 500 ze 1000 mieszkańców przez ich życie — co jest efektem istnienia systemów hipernadzoru. Gdy tej statystyki socjalnej dodać błędną technikę rozpoznawania twarzy, koło się zamyka: algorytm, który myli twarze, a jest wdrażany w jurysdykcji, która preferencjalnie kontroluje niektóre społeczności, w naturalny sposób zwiększa prawdopodobieństwo błędnego aresztowania mężczyzny kolorowego.
Umowy rządowe i rachunek publiczny
W październiku 2020 rzecznik firmy twierdził, że wycena Clearview AI przekracza 100 milionów dolarów. Skala kontraktów publicznych rośnie szybciej, jednakże. Wg hasła Wikipedii “Clearview”, w 2025 roku firma podpisała kontrakt o wartości 9,2 mln USD z amerykańskim Immigration and Customs Enforcement (ICE) — swoim największym kontraktem do daty — drugim największym był 2,3-milionowy kontrakt z 2021 r. W lutym 2026 r. Clearview podpisał roczny kontrakt 225 tys. USD z US Customs and Border Protection (CBP).
Z tym idzie debata publiczna. American Civil Liberties Union (ACLU) pozywa firmę za naruszenia praw prywatności wielokrotnie. W 2022 Clearview osiągnął ugodę z ACLU, w której zgodzono się ograniczyć sprzedaż usług rozpoznawania twarzy na amerykańskim rynku do podmiotów rządowych — co jest znaczącym krokiem, ale nie eliminuje korporacyjnego modelu opartego na przeszukiwaniu bazy zgromadzonej bez zgody. Kilka państw UE nałożyło na firmę kary i zakazało jej działalności za naruszenia praw prywatności. Dochodzenia wobec firmy trwają także w innych krajach.
Odpowiedź regulacyjna
W Europie odpowiada AI Act (Rozporządzenie UE 2024/1689), pierwsza na świecie kompleksowa rama prawna AI, jak opisuje Strona Europejskiej Komisji. AI Act zakazuje m.in. scrapowania internetu i materiałów CCTV w celu tworzenia lub rozszerzania baz rozpoznawania twarzy, a także biometrycznej kategoryzacji polegającej na dedukowaniu niektórych cech chronionych. Real-time remote biometric identification dla potrzeb ścigania w miejscach publicznie dostępnych także zostało zakazane. Większość zakazów obowiązuje od lutego 2025.
W Stanach Zjednoczonych NIST wydał swój AI Risk Management Framework 1.0 w dniu 26 stycznia 2023, a 7 kwietnia 2026 opublikował notatkę koncepcyjna dla profilu Trustworthy AI in Critical Infrastructure. Nie jest jednak tajemnicą, że federalna regulacja rozpoznawania twarzy w USA pozostaje w części — w szczególności w obszarze prywatności konsumenta i ograniczeń rynkowych — szczuplejsza niż europejska.
Konsekwencje dla obywatela
Dla odbiorcy indywidualnego znaczenia są trzy. Po pierwsze, zdjęcie wrzucone do portalu społecznościowego może zostać zindeksowane do bazy prywatnej firmy, używanej m.in. przez organa ścigania w innych krajach. Po drugie, identyfikacja przez rozpoznawanie twarzy nie jest w pełni niezawodna — co oznacza, że obywatel może zostać błędnie zidentyfikowany jako podejrzany. Po trzecie wreszcie, hipernadzór nie ogranicza się do policji: rozciąga się na szkoły, miejsca pracy i organizacje społeczne.
Dla dyskusji publicznej liczy się przede wszystkim pytanie, czy regulatorzy na świecie zdołają wypracować społeczne warunki korzystania z rozpoznawania twarzy. Do kwietnia 2026 NIST opublikował notatkę koncepcyjną dla profilu Trustworthy AI w infrastrukturze krytycznej. W Europie AI Act zakazuje od lutego 2025 m.in. scrapowania internetu do tworzenia baz rozpoznawania twarzy oraz real-time remote biometric identification w miejscach publicznie dostępnych. Pytanie pozostaje, jak skutecznie egzekwować te reguły wobec modeli biznesowych, których wartość wywodzi się z bazy zebranej przed wejściem zakazów w życie.
