Skandal holenderski: algorytm, który zniszczył tysiące rodzin i przewrócił rząd
System, który widział obywatela jako podejrzanego
Holenderska administracja podatkowa od 2013 roku stosowała przy przyznawaniu zasiłku na opiekę nad dziećmi tzw. model klasyfikacji ryzyka. Był to samouczący się algorytm oparty na kilkudziesięciu wskaźnikach, którego zadaniem było wyłapywanie wniosków mogących kryć oszustwo. Jak ustaliła w 2020 roku holenderska agencja ochrony danych osobowych (Autoriteit Persoonsgegevens), jednym z tych wskaźników była narodowość wnioskodawcy: system co najmniej od marca 2016 do października 2018 oznaczał jako ryzykowne osoby bez holenderskiego obywatelstwa. Agencja oceniła tę praktykę jednoznacznie jako nielegalną i dyskryminującą, a później nałożyła na urząd skarbowy karę finansową w wysokości 2,75 mln euro.
To właśnie ten element odróżnia holenderski skandal, znany jako toeslagenaffaire, od zwykłej awarii biurokracji. Algorytm nie był neutralnym narzędziem porządkowania pracy urzędu — wbudowywał w decyzje administracyjne założenie, że pewne grupy obywateli są statystycznie bardziej podejrzane. Rodzice z podwójnym obywatelstwem czy pochodzeniem migracyjnym trafiali do kategorii wzmożonej kontroli nie dlatego, że zrobili coś złego, lecz dlatego, kim byli.
Maszyna do zwalczania oszustw bez hamulców
Sam model ryzyka był jednak tylko początkiem. Parlamentarna komisja śledcza, która w grudniu 2020 roku opublikowała raport pod wymownym tytułem „Ongekend onrecht” (Niewyobrażalna krzywda), ustaliła, że służby zastosowały wobec wytypowanych rodzin podejście „wszystko albo nic”: wystarczył drobny błąd formalny, na przykład brakujący podpis w dokumentach, by odebrać całość świadczenia i zażądać zwrotu dziesiątek tysięcy euro. Rodzicom odmawiano przy tym możliwości obrony, a sygnały ostrzegawcze — także od rzecznika praw obywatelskich, który alarmował już w 2017 roku — były przez lata ignorowane.
Komisja orzekła, że naruszono podstawowe zasady państwa prawnego. Oskarżenia dotyczyły całego systemu: urzędników, sędziów administracyjnych, którzy nie chronili obywateli, parlamentu i ministrów. Jak relacjonowały wtedy BBC i Politico, parlament był informowany przez urzędników błędnie i niekompletnie, a ofiary opisywały siebie jako rozjechanych przez machinę państwową. W skrajnych przypadkach ludzie musieli zwrócić ponad sto tysięcy euro, choć żadnego oszustwa nie popełnili.
Ruina finansowa i odebrane dzieci
Skutki dla ludzi wykraczały daleko poza finanse. Według szacunków holenderskiego urzędu statystycznego CBS, ogłoszonych w październiku 2021 roku, między 2015 a 2019 rokiem około 1115 dzieci z rodzin poszkodowanych trafiło do pieczy zastępczej na mocy orzeczeń sądowych; po aktualizacji danych chodziło już łącznie o 2090 dzieci między rokiem 2015 a połową 2022. Inspektorat sprawiedliwości i bezpieczeństwa, analizując dwadzieścia dotkniętych rodzin w raporcie z 2023 roku, stwierdził, że w siedemnastu z nich konsekwencje finansowe afery odegrały rolę w drodze do środków ochrony dziecka. Rodziny pozbawione świadczeń popadały w spiralę długów, rezygnowały z pracy, bo nie mogły opłacić żłobka, i trafiały pod lupę pomocy społecznej dokładnie wtedy, gdy najbardziej potrzebowały stabilności.
Warto podkreślić skalę: według wyliczeń przytaczanych przez Politico chodziło o około 26 tysięcy rodziców, z czego aż 11 tysięcy rodzin o podwójnym obywatelstwie zostało wytypowanych do szczegółowej kontroli. To jeden z najgłośniejszych przykładów tego, jak automatyzacja decyzji publicznych może przemienić się w dyskryminację na poziomie systemowym.
Upadek gabinetu Ruttego
Polityczny finał nastąpił 15 stycznia 2021 roku. Po publikacji raportu komisji premier Mark Rutte ogłosił dymisję całego gabinetu, tłumacząc w telewizyjnym wystąpieniu, że skoro zawiodły wszystkie ogniwa państwa, odpowiedzialność musi być zbiorowa. Jak podała agencja Reuters, Rutte osobiście złożył resignację u króla Wilhelma-Alexandra, a minister gospodarki Eric Wiebes odszedł natychmiast. Rząd pracował dalej tylko do wyborów w marcu jako gabinet przejściowy, zajmując się m.in. pandemią.
Państwo rozpoczęło naprawę szkód: każdemu poszkodowanemu rodzicowi zapewniono w pierwszej kolejności rekompensatę 30 tysięcy euro, a łączny koszt restytucji szacowano na wiele miliardów euro. W lutym 2024 roku kolejna komisja parlamentarna, w raporcie „Blind voor mens en recht” (Ślepa na człowieka i prawo), uznała, że wszystkie trzy władze zawiodły, a wzorce prowadzące do krzywdy nie zostały do końca przełamane. Holendrzy zdecydowali też o likwidacji całego systemu zasiłków, którego ryzyko spychano na obywatela.
Czego uczy ta historia
Dla każdego, kto projektuje lub nadzoruje systemy algorytmiczne w administracji, toeslagenaffaire dostarcza kilku twardych lekcji. Po pierwsze, cechy takie jak narodowość czy pochodzenie nie mogą być kryterium oceny ryzyka — nawet jeśli model uczy się „z danych historycznych”. Po drugie, automatyczna klasyfikacja musi być zawsze poddana kontroli człowieka z realną możliwością odstąpienia od jej wyniku. Po trzecie, obywatel ma prawo znać powód decyzji i skutecznie się od niej odwołać; brak takiej ścieżki zamienia błąd w katastrofę.
Ochrona własna jest tu ograniczona, ale istnieje: warto archiwizować całość korespondencji z urzędem, żądać pisemnego uzasadnienia każdej negatywnej decyzji i korzystać z instytucji takich jak rzecznik praw obywatelskich czy organ ochrony danych osobowych. W Unii Europejskiej dodatkowym narzędziem będzie AI Act, który klasyfikuje systemy oceny ryzyka świadczeń socjalnych jako wysokiego ryzyka i nakłada na ich twórców obowiązkowe testy.
Konkluzja jest gorzka, ale jasna. Nie trzeba futurystycznej sztucznej inteligencji, by algorytm zniszczył tysiące życia — wystarczył prosty model klasyfikacyjny w urzędzie skarbowym, pozbawiony nadzoru, empatii i mechanizmów odwoławczych. Skandal holenderski pokazał, że cena takiego zaniedbania potrafi obejmować ruinę finansową, rozpad rodzin i upadek rządu. Dlatego kontrola algorytmów w sektorze publicznym nie jest kwestią technologicznego smaku, lecz fundamentem państwa prawnego.
