Predykcyjna policja: kiedy algorytm decyduje, kto jest podejrzany
Wyobraź sobie, że policja puka do twoich drzwi o szóstej rano, choć nie popełniłeś żadnego przestępstwa. Nie ma doniesienia, nie ma świadka, nie ma śladu. Jest jedynie wynik działania algorytmu, który na podstawie danych o twoim miejscu zamieszkania, kontaktach i historii przejazdów stwierdził, że należysz do grupy wysokiego ryzyka. To nie scenariusz z filmu science fiction — to codzienność w miastach, w których wdrożono systemy predykcyjnej policji.
Predykcyjne policyjne algorytmy analizują ogromne zbiory danych — zgłoszenia interwencji, aresztowania, kręgi osobiste, ruch w sieci, a nawet aktywność w mediach społecznościowych — aby wytypować miejsca, w których prawdopodobnie dojdzie do przestępstwa, oraz osoby, które mogą je popełnić lub paść jego ofiarą. Na tej podstawie policja rozstawia patrole, przeprowadza kontrole tożsamości i otacza wybranych jednostek nadzorem. Wszystko przed tym, jakiekolwiek przestępstwo w ogóle miało miejsce.
Problem leży w danych, na których te systemy uczą się. Jeśli w przeszłości policja częściej interweniowała w bepaalde dzielnice lub wśród określonych grup społecznych, algorytm uznaje to za wyższą przestępczość tych obszarów i grup — nie rozróżniając rzeczywistego zachowania od historycznych uprzedzeń służb. Resultatem jest pętla zwrotna: algorytm wskazuje dzielnicę, policja tam częściej patroluje i częściej interweniuje, co generuje więcej danych potwierdzających tę ocenę systemu. Mieszkańcy tych dzielnic trafiają pod coraz mocniejszy nadzór, mimo że nie popełnili żadnego czynu.
Brak transparentności pogarsza sprawę. Obywatel, który zostaje oznaczony przez algorytm jako “wysokiego ryzyka”, zazwyczaj nie wie o tym, nie ma dostępu do danych, które o nim zostały zgromadzone, i nie może się odwołać od decyzji podjętej przez maszynę. Nie ma wyroku sądu, nie ma śledztwa — jest jedynie ocena prawdopodobieństwa, która decyduje o tym, jak traktują go organy ścigania.
W Europie takie budzą coraz większe obawy organów ds. ochrony danych osobowych. Unijne rozporządzenie AI zakazuje niektórych form predykcyjnego profilowania w kontekście egzekwowania prawa, ale przepisy te dopiero wchodzą w życie, a wiele systemów działa już teraz w cieniu regulacji. W Polsce temat predykcyjnej policji jest niemal nieobecny w debacie publicznej, choć narzędzia analizy danych policyjnych są rozwijane i wdrażane przez kolejne komendy wojewódzkie.
Skutkiem nie jest większe bezpieczeństwo, lecz erozja założenia niewinności. Gdy algorytm decyduje, kto jest podejrzany, granica między prewencją a nadzorem kontrolnym zaczyna się zacierać. Obywatel przestaje być podmiotem z prawami, a staje się punktem danych w modelu, którego działania nie rozumie i nie może skontestować.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
