Algorytmy przyznające świadczenia socjalne — gdy automat odbiera zasiłek
Automat zamiast urzędnika
Wiele administracji publicznych sięga po algorytmy do weryfikacji uprawnień do świadczeń: zasiłków rodzinnych, ulg podatkowych, dodatków mieszkaniowych. System ma wykrywać nadużycia i oszustwa. W praktyce jednak zamiast wykrywać oszustów, potrafi masowo oznaczać uczciwych obywateli jako podejrzanych — na podstawie błędnych danych lub uproszczonych reguł.
Skandal, który zrujnował tysiące rodzin
Najbardziej znany przykład to afera z holenderskim systemem, który przez lata niesłusznie oznaczał rodziny jako oszustów podatkowych. Tysiące osób musiało zwracać świadczenia, które w rzeczywistości im się należały. Wiele rodzin straciło oszczędności, a niektóre — domy. Sprawa ujawniła, jak niebezpieczne jest powierzanie algorytmowi decyzji o bycie materialnym obywateli bez skutecznej kontroli.
Dlaczego algorytmy się mylą
Systemy tego typu często opierają się na niepełnych lub błędnych danych: nieaktualnych adresach, nieprawidłowo powiązanych numerach identyfikacyjnych, niezrozumiałych dla algorytmu sytuacjach rodzinnych (np. opieka naprzemienna). Gdy algorytm oznaczy osobę jako podejrzaną, ciężar dowodu spada na obywatela, który musi udowodnić swoją niewinność — często bez dostępu do tego, na jakiej podstawie podjęto decyzję.
Brak przejrzystości i odpowiedzialności
Podobnie jak w sądownictwie, wiele z tych narzędzi to systemy własnościowe. Obywatel nie zna kryteriów, algorytmu ani danych, na których oparto decyzję. Urzędnik często przyjmuje rekomendację systemu jako autorytatywną, a odwołanie się bywa długie i kosztowne. W rezultacie błąd algorytmu przekłada się na realną krzywdę — bez szybkiej drogi naprawy.
Konieczna regulacja
Rozwiązaniem jest obowiązek audytu algorytmów decydujących o świadczeniach, prawo obywatela do wyjaśnienia i odwołania, niezależna weryfikacja decyzji przed ich egzekucją oraz odpowiedzialność administracji za błędy systemu. Bez tego automatyzacja administracji ryzykuje zamianę błędów jednostkowych w masowe krzywdy.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
