Algorytm zamiast urzędnika: SyRI i cena cyfrowego zwalczania oszustw
System, który łączył urzędy przeciwko obywatelowi
Zwalczanie oszustw w świadczeniach to słuszny cel — i to właśnie na nim opierały się holenderskie władze, wdrażając system risk indication (SyRI): narzędzie Ministerstwa Spraw Socjalnych i Zatrudnienia, które łączyło dane z wielu rejestrów państwowych — podatkowego, ubezpieczeń zdrowotnych, zameldowania, edukacji — i na tej podstawie wyliczało profile ryzyka osób podejrzewanych o oszustwo. System nie decydował sam o świadczeniu: oznaczał osobę do dalszego sprawdzenia, które kończyło się cofnięciem, obniżeniem albo zawieszeniem zasiłku.
Wyrok z Hadgi
W lutym 2020 roku Sąd Rejonowy w Hadze rozstrzygnął sprawę wniesioną przez holenderskie organizacje i związki zawodowe. Sąd uznał, że ustawodawstwo o SyRI dąży do zgodnego z prawem celu — walki z oszustwem — ale samo wykorzystanie systemu narusza prawo do poszanowania życia prywatnego (art. 8 Europejskiej Konwencji Praw Człowieka), ponieważ było zbędne i nieproporcjonalne do celu. Przesądziły o tym trzy ustalenia: ustawodawstwo nie było wystarczająco przejrzyste, państwo nie dostarczyło sądowi obiektywnie weryfikowalnych informacji o działaniu modelu ryzyka (tłumacząc się, że ujawnienie pozwoliłoby obywatelom dostosować zachowanie i uniknąć wykrycia), a brak przejrzystości uniemożliwiał osobom podejrzanym zakwestionowanie decyzji urzędu.
Ważne, czego sąd nie uznał: nie zakazał automatycznego przetwarzania danych w administracji jako takiego. Zakazał przetwarzania, którego zasady da się ukryć przed obywatelem, a którego skutki — oznaczenie do kontroli — uderzają w osoby bez realnej możliwości obrony.
Od SyRI do toeslagenaffaire
SyRI był częścią szerszej praktyki. Holenderska administracja podatkowa (Belastingdienst) między 2005 a 2019 rokiem błędnie oznaczyła jako oszustów około 26 tysięcy rodziców ubiegających się o zasiłek na opiekę nad dziećmi — i zażądała zwrotu świadczeń w pełnej wysokości, w wielu przypadkach po kilkadziesiąt tysięcy euro na rodzinę. Afera, znana jako toeslagenaffaire, doprowadziła w styczniu 2021 roku do dymisji trzeciego gabinetu Marka Rutte. Parlamentarna komisja śledcza uznała, że doszło do naruszenia zasad państwa prawa.
Mechanizm był podobny do SyRI: profil ryzyka, w którym jednym z sygnałów było posiadanie obywatelstwa holenderskiego — jego brak podnosił wynik ryzyka. W efekcie dotknięte były w przeważającej mierze rodziny o niższych dochodach i z imigranckim pochodzeniem. Holenderski urząd ochrony danych osobowych nałożył na administrację podatkową kary pieniężne — za przetwarzanie danych o obywatelstwie oraz za prowadzenie czarnej listy oszustów bez podstawy prawnej.
Co z tego wynika
SyRI i toeslagenaffaire nie są argumentem przeciwko cyfryzacji urzędów — są argumentem przeciwko cyfryzacji bez przejrzystości. Wyrok z Hadgi ustanowił regułę: państwo może łączyć dane obywateli między urzędami tylko wtedy, gdy zasady tej operacji są jawne, a osoba oznaczona ma realną możliwość obrony. Tam, gdzie model ryzyka jest tajny, kontrola oszustwa staje się pretekstem do inwigilacji ludzi, których największą „winą” jest korzystanie ze świadczeń.
Dla Polski lekcja jest prosta: cyfryzacja usług publicznych idzie w parze z obowiązkami z RODO i z europejskiego aktu o sztucznej inteligencji — tam, gdzie system wpływa na prawa osób, musi być przejrzysty i podlega nadzorowi człowieka.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
