Dyskryminacja algorytmiczna: jak systemy AI utrwalają uprzedzenia
Dyskryminacja algorytmiczna: jak systemy AI utrwalają uprzedzenia
Sztuczna inteligencja obiecuje obiektywność, ale algorytmy uczą się na danych historycznych, które zawierają ludzkie uprzedzenia. Gdy system decyzyjny odrzuca kandydatów do pracy, przyznaje kredyty lub ocenia ryzyko recydywy, może systematycznie krzywdzić grupy marginalizowane — bez jednego winnego i bez łatwej drogi odwołania.
Skąd biorą się uprzedzenia w danych
Model uczy się wzorców z przeszłości. Jeśli w historii zatrudnienia mężczyźni byli częściej promowani, algorytm uzna płeć za czynnik predykcyjny. Jeśli w danych o kredytach dominują osoby z określonego regionu, system obniży ocenę innym. Uprzedzenie nie musi być jawne — wystarczy, że koreluje z cechami proxy, takimi jak kod pocztowy czy nazwisko.
Przykłady z życia
Systemy rekrutacyjne, które filtrowały CV, okazywały się preferować kandydatów o określonej płci. Algorytmy oceniające ryzyko recydywy w wymiarze sprawiedliwości były krytykowane za dysproporcjonalnie wysokie oceny dla osób z grup mniejszościowych. Narzędzia do oceny zdolności kredytowej odmawiały finansowania tam, gdzie brakowało historii kredytowej — co uderzało w młodych i nowych mieszkańców.
Problem transparentności
Nawet gdy dyskryminacja jest podejrzewana, trudno ją udowodnić. Modele są często czarnymi skrzynkami — firma nie ujawnia, jakie cechy wpłynęły na decyzję. Bez dostępu do danych treningowych i logiki modelu ofiara nie może skutecznie się odwołać. To narusza zasady sprawiedliwości proceduralnej.
Regulacje i dobre praktyki
Unia Europejska w rozporządzeniu o sztucznej inteligencji (AI Act) klasyfikuje systemy wysokiego ryzyka, w tym te używane w zatrudnieniu, kredytach i wymiarze sprawiedliwości, i wymaga od ich dostawców oceny wpływu na prawa podstawowe. Dobra praktyka obejmuje audyt stronniczości przed wdrożeniem, regularne monitorowanie wyników według grup demograficznych oraz możliwość odwołania dla człowieka.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
