Dyskryminacja algorytmiczna w rekrutacji: gdy AI odrzuca kandydatów za płeć, wiek i pochodzenie

Systemy sztucznej inteligencji w rekrutacji prometują obiektywność, szybkość i oszczędność. Rzeczywistość wygląda inaczej: algorytmy uczone na historycznych danych powielają i nasilają uprzedzenia ludzkich rekrutera. Kobiety otrzymują niższe wyniki w systemach oceniających predyspozycje do ról technicznych. Osoby powyżej 50. roku życia są odrzucane na etapie wstępnego filtrowania. Kandydaci z nazwiskami brzmiącymi „obco” tracą szansę na rozmowę, zanim ludzkie oko zobaczy ich CV. To nie błędy — to cecha systemów trenowanych na nierównych danych.

Jak AI uczy się dyskryminować

Systemy Applicant Tracking Systems (ATS) z modułami AI nie oceniają kandydata w próżni. Modele językowe i klasyfikatory trenuje się na zbiorach historycznych: kto został zatrudniony, kto awansował, kto odebrał premie. Jeśli przez dziesięciolecia firmy promowały mężczyzn na stanowiska kierownicze, model nauczy się, że cechy męskie (słownictwo, doświadczenie wojskowe, belonging do sieci alumni technicznych uniwersytetów) korelują z sukcesem. Kobiety z identycznymi kwalifikacjami dostają niższy score.

W 2018 r. Amazon odrzucił wewnętrzne narzędzie rekrutacyjne, gdy odkryto, że system karze CV zawierające słowo „kobiety” (np. „kobiety w informatyce”, „klub kobiet programistów”) i promuje słownictwo męskie („wykonano”, „przejął odpowiedzialność”). Problem nie był unikalny — Amazon po prostu go wykrył i upublicznił. Większość firm nie audytuje swoich modeli.

Dowody z badań i spraw sądowych

Badanie National Bureau of Economic Research (Bertrand i Mullainathan, 2004; powtórzone z CV zgenerowanymi przez AI w 2021 r.) pokazało, że CV z nazwiskami „białymi” otrzymują 50% więcej zaproszeń na rozmowę niż identyczne CV z nazwiskami „afroamerykańskimi”. W Polsce badania Fundacji Batorego i Homo Homini (2022) potwierdziły dyskryminację nazwisk rzymskokatolickich vs. innych oraz dyskryminację wieku.

Sprawy sądowe nabierają tempa. W USA EEOC v. iTutorGroup (2023) zakończyło się porozumowaniem: firma zapłaciła 365 tys. USD za system automatycznie odrzucający kobiety powyżej 55 r.ż. i mężczyzn powyżej 60 r.ż. W Niemczech BAG, Az. 8 AZR 45/20 (2021) orzekł, że odrzucenie kandydata przez algorytm bez możliwości wyjaśnienia przyczyn narusza Allgemeines Gleichbehandlungsgesetz (AGG). W Polsce Kodeks pracy (art. 18³a) zakazuje dyskryminacji, ale brak przepisów wymagających przejrzystości algorytmów utrudnia dochodzenie roszczeń.

Polskie realia: ATS, gamifikacja i „ocena predyspozycji”

Polski rynek HR-tech rośnie dynamicznie. Firmy takie jak Element, Elevato, Recruitis, czy międzynarodowe Workday, Greenhouse, Lever oferują moduły AI do: parsowania CV, dopasowywania słów kluczowych, oceniania „pasowania kulturowego” (tzw. culture fit), a nawet analizy wideo-wywiadów (mikrowyrażenia, ton głosu, przerzucanie oczami). Polski Urząd do Spraw Ochrony Danych Osobowych (UODO) w stanowisku z 2023 r. wskazał, że automatyczne podejmowanie decyzji o odmowie zatrudnienia na podstawie profilowania wymaga art. 22 RODO — prawa do interwencji człowieka i wyjaśnienia logiki decyzji. W praktyce kandydaci dowiedzą się o odrzuceniu mailowo, bez uzasadnienia.

Nowością są testy gier (gamified assessments) — np. Pymetrics, Arctic Shores — twierdzące, że mierzą cechy poznawcze i emocjonalne bez uprzedzeń. Badania niezależnych (m.in. Harvard Business Review, 2022; MIT Tech Review, 2023) kwestionują walidność predykcyjną i wskazują, że wyniki korelują ze statusem socjoekonomicznym i dostępem do technologii, a nie z przydatnością w pracy.

AI Act i dyrektywa o platformach pracy: nowe narzędzia prawne

Rozporządzenie AI Act (2024/1689) klasyfikuje systemy AI do rekrutacji, selekcji i oceny kandydata jako wysokie ryzyko (zał. III, pkt 4). Wymaga to: systemu zarządzania ryzykiem, zarządzania jakością danych, dokumentacji technicznej, przejrzystości dla użytkowników, nadzoru ludzkiego i rejestracji w bazie UE. Przepisy wchodzą w życie etapowo — od luty 2025 r. (zakazy), przez sierpień 2025 r. (modele ogólnego przeznaczenia), do sierpień 2026 r. (systemy wysokiego ryzyka).

Dyrektywa UE 2024/2831 o platformach pracy cyfrowej (do wdrożenia do 2026 r.) wprowadza prawo do wyjaśnienia decyzji algorytmicznych wpływających na warunki pracy, w tym rekrutację. Polska ustawa o ustroju sądów i przepisy Kodeksu pracy będą wymagały nowelizacji. Kluczowe pytanie: czy polskie sądy będą potrafiły egzekwować prawo do wyjaśnienia (right to explanation) wobec czarnych skrzynek dostawców SaaS z USA i Izraela.

Jak chronić się przed dyskryminacją algorytmiczną

1. Wymagaj podstawy prawnej i celowości — zgodnie z art. 22 RODO, decyzje automatyczne mające skutki prawne wymagają zgody, umowy lub prawa unijnego/krajowego. Jeśli firma nie podaje podstawy — złoży skargę do UODO.
2. Korzystaj z prawa do dostępu do danych (art. 15 RODO) — możesz żądać kopii danych, na podstawie których podjęto decyzję, w tym logów modelu (jeśli nie są tajemnicą handlową — tu spada sprawy do sądów).
3. Zgłaszaj podejrzenia do UODO i RPO — Rzecznik Praw Obywatelskich prowadzi postępowania w sprawach dyskryminacji algorytmicznej. Skargi masowe zmieniają praktykę rynku.
4. Wersja CV „dla maszyny” i „dla człowieka” — prosty format, standardowe nagłówki, słowa kluczowe z ogłoszenia, bez grafik i kolumn. To nie rozwiązuje problem systemowy, ale zwiększa szansę na przejście filtra ATS.
5. Wsparcie inicjatyw audytu algorytmów — Fundacja Panoptykon, AlgorithmWatch, europejska EDRi i polskie kliniki prawne (np. UW, UJ) prowadzą audyty społeczne systemów HR. Uczestniczenie w nich buduje dowody do przyszłych spraw.

Wniosek

AI w rekrutacji nie jest obiektywne — jest wygodne. Firmy oszczędzają czas kosztem sprawiedliwości, a koszty błędów (utrata talentów, pozwy, wizerunek) są externalizowane na kandydatów i społeczeństwo. Regulacje (AI Act, RODO, dyrektywa o platformach) dają ramy, ale egzekwowanie zależy od świadomości kandydatów i odważy sądów. Dopóki modele uczą się na danych z nierównowego świata, będą produkować nierówność — tylko szybciej, taniej i z pieczątką „naukowej obiektywności”.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.