Algorytmy w opiece społecznej: AI decyduje o odebraniu dzieci
W wielu krajach urzędy opieki społecznej sięgają po systemy sztucznej inteligencji, które mają pomagać w ocenie ryzyka krzywdzenia dzieci. Jednym z najbardziej znanych przykładów jest Allegheny Family Screening Tool (AFST) stosowany w hrabstwie Allegheny w Pensylwanii. System analizuje dane rodzin — w tym historię kontaktów z opieką społeczną, wyroki sądowe czy informacje o pomocy społecznej — i generuje ocenę ryzyka, która ma wspierać decyzję o tym, czy wszcząć postępowanie o odebranie dziecka rodzinie.
Co budzi obawy
Badacze zwracają uwagę, że takie narzędzia mogą utrwalać i wzmacniać istniejące uprzedzenia. Rodziny z grup mniejszościowych i ubogie częściej mają kontakt z systemem opieki społecznej, więc ich dane częściej trafiają do modeli. W efekcie algorytm może przypisywać im wyższe ryzyko nie dlatego, że są bardziej narażone na krzywdzenie dziecka, ale dlatego, że system „widział” je częściej w danych historycznych.
Problemem jest też brak przejrzystości. Rodzice rzadko wiedzą, że ocena ryzyka była wspierana przez algorytm, i nie mają możliwości skutecznego odwołania się od decyzji opartej na niezrozumiałym dla nich wyniku. Decyzje o odebraniu dziecka są jednymi z najbardziej ingerencyjnych w życie rodzinne — a tu wspiera je narzędzie, którego logiki nie rozumieją ani rodzice, ani często sami pracownicy socjalni.
Błędy i ich konsekwencje
Systemy tego typu nie są nieomyślne. Gdy algorytm błędnie oceni ryzyko jako wysokie, rodzina może zostać poddana inwazyjnej kontroli lub stracić dziecko. Gdy oceni je jako niskie, dziecko w niebezpieczeństwie może pozostać bez pomocy. W obu przypadkach koszty błędów ponoszą ludzie, a nie model.
Z tego powodu organizacje praw człowieka i eksperci ds. ochrony danych postulują: obowiązek informowania rodzin o użyciu AI, możliwość odwołania, audyty algorytmów pod kątem dyskryminacji oraz nadzór człowieka nad każdym przypadkiem. Bez tych gwarancji technologia, która miała chronić dzieci, może stać się źródłem nowych krzywd.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
