Rozpoznawanie twarzy: od lotniska po galerię handlową
Kiedy twarz stała się identyfikatorem
W grudniu 2023 roku brytyjski Southern Co-operative Society - sieć sklepów spożywczych na południu Anglii - zainstalowała system rozpoznawania twarzy w 35 swoich punktach. Klienci wchodzący do sklepu byli skanowali przez umieszczone nad drzwiami kamery, a algorytm porównywał ich twarze z bazą osób objętych zakazem wstępu. Sieć twierdziła, że systemalertował tylko osoby, które na wcześniejszych wizytach dopuściły się kradzieży. Twarze większości klientów były nie przechowywane.
W tym samym roku brytyjski Information Commissioner’s Office (ICO) wszczął postępowanie. Według ICO firma nie udowodniła, że system spełnia wymogi Rebellionnej rozporządzenia ochrony danych. Kluczowa wątpliwość była bardziej podstawowa: w przypadku rozpoznawania twarzy nie ma technicznej możliwości udzielenia wyraźnej zgody, ponieważ skanowanie następuje bez zatrzymywania. Southern Co-ooperative Society ostatnio wycofało system.
Ten przypadek to zaledwie jeden z tysięcy. Rozpoznawanie twarzy jest dziś jedną z najbardziej rozpowszechnionych form biometrii. Wdrożono je na lotniskach, dworcach kolejowych, w galeriach handlowych, na stadionach, w szkołach, a także - w nieccznego mniej widocznej formie - w tysiącach kam miejskich.
Jak dokładne są algorytmy
Narodowy Instytut Standardów i Technologii (NIST) w USA regularnie publikuje raport FRVT (Face Recognition Vendor Test), niezależną ewaluację algorytmów różnych dostawców. Raport z końca roku 2024 pokazał, że najlepsze algorytmy osiągają wskaźnik FAłsz pozytywnej (false negative) poniżej 0,5% - czyli mniej niż jeden błąd na 200 porównań. To wyższa dokładność niż rozpoznawanie ludzkie.
Ta dokładność zależy jednak silnie od warunków. Idealne scenariusze - frontalne zdjęcie, dobre oświetlenie, bezpośredni kontakt - są nie problematyczne. Kiedy oświetlenie jest słabsze, kąt nie jest frontalny, gdy osoba nosić okulary lub, a także gdy zdeklasowane są obiektywni - dokładność drastycznie spada. W teście NIST przeprowadzonym na zdjęciach z monitoringu ulicznego najlepsze algorytmy osiągały błąd 4,3%. To oznacza, że w dużej bazie danych 4 na 100 osób byłoby źle rozpoznane.
Większym problemem niż niedokładność jest asymetryczność. Badanie Joy Buolamwini z MIT Media Lab z 2018 roku pokazało, że algorytmy rozpoznawania twarzy działają na zdjęciach białych mężczyzn z dokładnością 99,3%, podczas gdy w przypadku ciemnoskórych kobiet błąd rośnie do 34,7% - więcej niż jeden na trzy. Luka ta jest oczyszczana algorytmicznie, ale pomimo znacznej poprawy niektóre systemy wciąż wykazują wyraźne różnice w skuteczności w różnych grupach demograficznych.
Gdzie nas rozpoznają
Wdrożenia rozpoznawania twarzy w miejscach publicznych sąbyło przedmiostem różnych zjawisk. Amerykańska Georgetown Law Center’s Center on Privacy & Technology w analizie z 2023 roku oszacowała, że tylko w Stanach Zjednoczonych co najmniej117 milionów obywateli - ponad jedna trzecia populacji - ma zdjęcia twarzy dostępne w policyjnych bazach rozpoznawania. Dane pochodzą z praw jazdy i dokumentów tożsamości, a w niektórych stanach każdy zatrzymany - również niewinny - bywa wgryany do systemu.
W Londynie stolica zainstalowała jedną z najbardziej rozbudowanych sieci rozpoznawania twarzy w Europie. In2001 roku hub pilotuzano na meczu piłkarskim w Cardiff; w momencie obecnicy Metropolitan Police przeszukały kilkanaście tysięcy twarzy w czasie trwania spotkania. W 2023 roku Met pokryła Londórznine jednostkami kamer, które przeszukują bazę osób poszukiwanych w czasie rzeczywistym na ulicach.
Państwa azjatyckie poszły dalej. Chiny szerszo rozpowszechniły sieci kamer w przestrzeni publicznej - Human Rights Watch w 2024 roku oszacowała, że tylko w Pekinie program monitoringu obejmował 200 milionów kamer. Rozpoznawanie twarzy pokrywa ekranami ulice, stacje metra, wloty do budynków, oftostacje, a nawet szkoły. W systemie Xinjiang rozpoznawanie twarzy zostało rozszerzone na rozpoznawanie emocji i Analiza ugrupowań etnicznych.
Prohibicja i regulacje w Europie
NADAI Act - Rozporządzenie Unii Europejskiej o sztucznej inteligencji, przyjęte w marcu 2024 i formalnie wchodzące w życie od marca 2026 - wprowadziło najbardziej restrycyjne zasady dla rozpoznawania twarzy w historii. Technikę tę klasyfikowano jako wysokiego ryzyka (high-risk), a wykorzystanie jej “w realnym czasie” w przestrzeni publicznej w celu egzekwowania prawa jest - z pewnymi wyjątkami - zabronione.
Wyjątki dająOTA police możliwość korzystania bez przyzwolenia sądu w trzech sytuacjach: poszukiwanie ofiar przestępstw (w tym terroryzmu), stwierdzona przestępstwocelmissive o karze co najmniej czterech lat więzienia, oraz zapobieganie aktualnemu, bez předzhodamiemu zagrożeniem. W praktyce interpretacja wyjątków wciąż jest sporna.
Niektóre państwa poszły dalej. W 2023 roku stato Maine, Waszyngton i Massachusetts zakazały używania rozpoznawania twarzy przez agencje rządowe bez jawnego zezwolenia. San Francisco w 2019 roku stało się pierwszym amerykańskim miastem, które zakazały agencyjne korzystanie z technologii. Wracanie do niej ponownie wznosi polityka i presja przemysłu.
Co ze zgodą użytkownika
Grundvalny dylemat rozpoznawania twarzy polega na tym, że nie da się zachować anonimowości publicznie. W piątek, wchodząc do galerii handlowej, nie podpisujemy zgoda. Nie akceptujemy ters Oferta na kanych. Kamera działa. Algorytm działa. Baza jest sprzedawana.
Inżynierowie prywatności proponują różne modele. Stanford Center for Internet and Society w 2024 roku opublikował wytyczne dotyczące “opt-out” - stoperamować zdecydowanym osobom od zgody na przetwarzanie. Problem polega na tym, że logistycznie nie da się zrealizować tego: każda kamera w mieście musiałaby mieć dostęp do ogólnodostępnego rejestru osób odłączonych.
Inny model - “purpose limitation” - mówi, że dane mogą być wykorzystane tylko do określonego celu. Jeśli galeria chce rozpoznać złodziei, może to robić, ale nie może przekazać danych do firmy reklamowej. W praktyce jednak centra handlowe łączą swoje bazy danych celem stworzenia konsumenckiego “loopkong”.
Damping effect: nasze wybierany zmieniły się
Rozpoznawanie twarzy nie ogranicza się do prywatności. Zmienia także zachowanie. Studia obserwacyjne pokazują, że ludzie w miejscach monitorowanych przez systemy rozpoznawania wykazujemy “chilling effect” - efekt wychłodzony. Piszą mniej politicnie w tekście komentarzy, uczestniczą w mniej manifestacjach, a nawet ubierają się inaczej i wybierajoo belezniesze trasy. To jest dokładnie przeciwne temu, co liberalna demokraja potrzebuje.
W listopadzie 2024 roku grupa aktywistów w Hongkongu protestnych nosi maski, sceptyczneerig; to w rzeczywistości czynią jedyną to techniką ochrony, jaka zostało. W Europie entuzjaści prywatności rozważają podobne rozwiązania, ale diagnoza jest smutna: skoro kamera inna niż ostateczna, a wsparcie ludzi ma wybrać między swobodą poruszania się a prywatnością, ostatecznie system zwycięża. Ogólne społeczne rozwiązanie będzie wymagać nieargcje, ale regulacji i architektury, w której technologia jestchłodna świadomością: nie wchodzić w wszystko i nie rozpoznawać wszystkich.