Automatyczne decyzje urzędowe: jak AI przejmuje rolę władzy publicznej
Systemy sztucznej inteligencji coraz częściej zastępują urzędników w podejmowaniu decyzji administracyjnych o bezpośrednich skutkach prawnych dla obywateli. W Polsce przykładem jest system STIR (System Teleinformatyczny Izby Rozliczeniowej) stosowany przez ZUS do automatycznego weryfikowania oświadczeń zdrowotnych, czy narzędzia analityczne Krajowej Administracji Skarbowej wykrywające anomalie w deklaracjach VAT. W Unii Europejskiej wytyczne European Commission z 2021 roku w sprawie AI w sektorze publicznym jasno wskazują: decyzje w pełni zautomatyzowane, które wpływają na prawa i uprawnienia, muszą spełniać rygorystyczne standardy przejrzystości i ludzkiego nadzoru.
Problem nie leży w samej automatyzacji procedur urzędowych — te są dobre i konieczne. Zagrożenie rodzi się, gdy algorytm staje się de facto decydentem, a urzędnik pełni jedynie funkcję “człowieka w pętli” (human-in-the-loop) pozorną, potwierdzającą sugestię systemu bez realnej weryfikacji. Badania Fundacji Panoptykon i Helsinki Foundation for Human Rights wskazują, że w polskiej administracji brakuje jednolitych standardów audytu algorytmów oraz mechanizmów pozwalających stronę postępowania poznać logikę automatycznej decyzji.
Kiedy urzęd skieruje sprawę do systemu, który na podstawie historycznych danych klasyfikuje wnioskodawcę jako “wysokiego ryzyka” oszustwa, obywatel nie ma wglądu do zmiennych decyzyjnych, wag przypisanych cechom ani danych treningowych. To narusza zasadę jawności postępowania (art. 107 KPA) oraz prawo do wyjaśnień (art. 15 RODO w połączeniu z art. 22 RODO — prawo do niepodlegania decyzjom zautomatyzowanym). W praktyce strony dowiadują się o negatywnym wyniku “po fakcie”, nie mając realnej szansy na zaprzeczenie logice systemu w trakcie postępowania.
Unia Europejska reaguje Aktem o sztucznej inteligencji (AI Act), który weszł w życie 1 sierpnia 2024 r. i zacznie w pełni obowiązać od 2 sierpnia 2026 r. Systemy AI stosowane w administracji publicznej do oceny uprawnień do świadczeń, kontroli przepisów czy nadzoru nad migracją sklasyfikowano jako wysokiego ryzyka (załącznik III). Wymaga to: oceny zgodności przed wdrożeniem, rejestracji w bazie UE, ludzkiego nadzoru przez wykwalifikowanego operatora, transparentności wobec stron oraz możliwości skutecznego odwołania. Polska administracja ma ponad rok na dopracowanie swoich systemów pod te wymogi.
Kluczowe pytanie: czy polskie urzędy są do tego gotowe? Inspekcje NIK z lat 2022–2023 ujawniały luki w zarządzaniu ryzykiem IT, brak dokumentacji modeli predykcyjnych oraz niedostateczne kompetencje cyfrowe kadry. Bez inwestycji w audyt algorytmiczny, niezależne organy nadzoru i jasne procedury “człowieka w pętli” z prawem do weto, automatyzacja urzędowa ryzykuje zamienić państwo prawa w państwo “czarnej skrzynki”.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
