Dyskryminacja algorytmiczna: gdy AI utrwala uprzedzenia

Sztuczna inteligencja nie jest obiektywna. To pierwszy mit, który trzeba rozbić. Każdy model uczy się z danych stworzonych przez ludzi — danych, które noszą odciski historycznych nierówności, stereotypów i wykluczeń. Gdy taki model trafia do produkcji, nie „naprawia” świata — go utrwala, często w skali i szybkości, których ludzie nie są w stanie nadążyć.

Rekrutacja: od CV do oceny przez maszynę

W 2018 roku Amazon porzucił system rekrutacyjny oparty na uczeniu maszynowym, po odkryciu, że system dyskryminuje kobiety. Model trenowany na dekadzie CV-ów przesłanych do firmy — większości od mężczyzn — nauczył się, że cechy typowo męskie (słownictwo, doświadczenie w męskich branżach) korelują z „dobrym kandydatem”. Kobiety otrzymywały niższe oceny, a słowa jak „kobiety” w CV (np. „kobiety w technologii”) były karane.

To nie jest pojedynczy przypadek. Badania National Institute of Standards and Technology (NIST) z 2019 roku wykazały, że systemy rozpoznawania twarzy mają istotnie wyższe błędy dla kobiet i osób niebiałych — w niektórych algorytmach do 100-krotnie wyższe. W kontekście rekrutacji, gdzie coraz częściej stosuje się analizę wideo rozmów (toność głosu, mikroekspresje, wybór słów), ryzyko dyskryminacji rośnie.

W Polsce Kodeks pracy zabrania dyskryminacji, ale przepisy nie previdują sytuacji, gdy decyzję podejmuje „czarna skrzynka”. Kandydat odrzucony przez algorytm często nie dowiaduje się nawet, że istniał — a prawo do wyjaśnienia decyzji (art. 22 RODO) w praktyce trudno egzekwować wobec skomplikowanych modeli głębokiego uczenia.

Kredytowanie i scoring: niewidzialna bariera

Systemy scoringu kredytowego oparte na AI decydują o dostępności finansów dla milionów Polaków. Tradycyjne modele oparte na historii kredytowej (BIK, KRD) są rozszerzane o „alternatywne dane”: zachowania w mediach społecznościowych, historia zakupów, geolokalizacja, typ telefonu, a nawet szybkość wypełniania formularza.

Problem polega na tym, że wiele z tych cech koreluje z cechami chronionymi — pochodzeniem etnicznym, wiekiem, niepełnosprawnością, statusem rodzinnym. Model nie musi widzieć „płci” ani „rasy”, by ich używać pośrednio (tzw. proxy discrimination). Badania uczone w Stanach Zjednoczonych (m.in. praca Laura Kypta z UC Berkeley) wykazały, że modele oparte na alternatywnych danych mogą pogarszać dostęp do kredytów dla mniejszości, nawet gdy formalnie nie używają atrybutów chronionych.

W Polsce Urząd Ochrony Danych Osobowych i Komisja Nadzoru Finansowego zacząły zwracać uwagę na transparentność algorytmów scoringowych, ale ramy prawne wciąż gonią technologię.

Sprawiedliwość: ryzyko w orzekaniu

W Stanach Zjednoczonych system COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) był używany do oceny ryzyka recydywy — decydował o warunkowym zwolnieniu, kaucji, wyroku. Badanie ProPublica z 2016 roku wykazało, że system błędnie klasyfikował czarnoskórnych oskarżonych jako „wysokie ryzyko” dwukrotnie częściej niż białych, przy podobnej historii karnej.

W Europie Rada Europy w 2023 roku przyjęła rekomendację w sprawie AI w systemach sprawiedliwości, wskazując na ryzyko utrwalania uprzedzeń sądowych przez modele trenowane na historycznych danych orzeczniczych. Polska prokuratura i sądy coraz częściej eksperymentują z narzędziami wspomagającymi (anonimizacja, wyszukiwanie precedensów), ale decyzyjne kroki w stronę automatycznego orzekania nie zostały jeszcze podjęte — co nie zmienia faktu, że ryzyko rośnie z każdym wdrożeniem.

Zdrowie: algorytmy decydujące o życiu

W 2019 roku naukowcy ze Stanforda opublikowali w „Science” badanie pokazujące, że algorytm priorytetyzujący pacjentów do programu opieki dodatkowej w szpitalach USA systematycznie pomijał czarnoskórnych pacjentów — mimo że byli chorzsi. Powód: model uczył się na kosztach opieki jako proxy zdrowia, a czarnoskórni pacjenci historycznie uzyskiwali mniej zasobów medycznych.

W Polsce systemy wspomagania decyzji klinicznej (CDSS) wchodzą do szpitali. Gdy dane treningowe pochodzą z badań klinicznych, w których kobiety i osoby starsze były mniej reprezentowane, rekomendacje AI mogą być mniej precyzyjne dla tych grup. To nie jest teoria — to udokumentowana rzeczywistość medycyny opartej na dowodach.

Dlaczego to trudne do naprawienia

Trzy czynniki sprawiają, że dyskryminacja algorytmiczna jest trudniejsza do walki niż ludzka:

1. Skala i prędkość — jeden zły model decyduje o tysiącach ludzi dziennie.
2. Niewidoczność — decyzja jest uzasadniona „matematyką”, a nie uprzedzeniem; trudno wykazać intencję.
3. Brak odpowiedzialności — producenci modeli, wdrożyciele i użytkownicy końcowi przerzucają winę na siebie nawzajem.

Unia Europejska w AI Act (przyjęty w 2024 roku) klasyfikuje systemy rekrutacyjne, scoring kredytowy i wspomaganie sądowe jako „wysokie ryzyko” — co nakłada obowiązki oceny ryzyka, ludzkiego nadzoru, transparentności i rejestracji. To pierwszy poważny krok regulacyjny, ale wdrożenie potrwa latami.

Co można zrobić już teraz

• Audyt algorithmiczny — regularne testowanie modeli pod kątem dysproporcji (disparate impact) przed wdrożeniem i w trakcie eksploatacji.
• Różnorodność danych — celowe dozbieranie danych grup mniejszościowych, korekty wag, techniki fair machine learning (np. adversarial debiasing).
• Ludzki w pętli — decyzje o prawach i zasobach musi ostatecznie podejmować człowiek z prawem do odrzucenia rekomendacji AI.
• Prawo do wyjaśnienia i skargi — procedury umożliwiające osobie dotkniętą zrozumienie i oskarżenie automatycznej decyzji.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.