Algorytmy rekrutacyjne: jak AI dyskryminuje kandydatów na rynku pracy

Systemy sztucznej inteligencji w procesach rekrutacyjnych przestały być ciekawostką technologiczną — stały się standardem w dużych korporacjach i coraz częściej pojawiają się w mniejszych firmach. Zgodnie z raportem Society for Human Resource Management z 2023 roku, ponad 79% organizacji w USA stosuje w jakimś stopniu automatyzację w procesach zatrudniania. W Polsce proces ten jest mniej zaawansowany, ale dynamika wzrostu jest wyraźna: platformy typu ATS (Applicant Tracking Systems) z modułami AI nabierają popularności również u nas.

Obietnica jest kusząca: maszyna nie ma uprzedzeń, nie zmęczy się, ocenia wyłącznie kompetencje. Rzeczywistość okazuje się jednak bardziej złożona. Algorytmy uczą się na danych historycznych — i te dane noszą w sobie całą historię ludzkich uprzedzeń.

Jak uczą się systemy rekrutacyjne

Większość komercyjnych rozwiązań opiera się na podejściu supervisowanego uczenia maszynowego. Model trenuje się na zbiorze CV zatrudnionych w przeszłości pracowników, etykietowanych jako “sukces” lub “porażka” w oparciu o kryteria takie jak okres zatrudnienia, oceny roczne, promocje. Problem polega na tym, że definicja “sukcesu” jest historycznie zafałszowana.

Badanie przeprowadzone przez badaczy z Carnegie Mellon University i University of Pennsylvania, opublikowane w 2021 roku w Proceedings of the ACM on Human-Computer Interaction, wykazało, że modele trenowane na danych z amerykańskich korporacji systematycznie obniżają ocenę kandydatek kobiet na stanowiska techniczne. Przyczyną nie była płeć jako cecha wejściowa — modelu nie podawano tej informacji — ale korelacje z innymi cechami:breaks w karierze (częstsze u kobiet z powodu opieki nad dziećmi), specyficzne słownictwo w opisach doświadczenia, a nawet nazwy uczelni (kobiety częściej studiują na politechnikach o niższych pozycjach w rankingach).

Podobne zjawiska obserwuje się w odniesieniu do etniczności. Analiza nazwisk i adresów zamieszkania pozwala modelowi inferować pochodzenie etniczne, co przekłada się na niższe wyniki kandydatów z mniejszości etnicznych — nawet przy identycznych kwalifikacjach.

Przypadek Amazon: lekcja, której branża nie wzięła do serca

Najbardziej znany przypadek to system rekrutacyjny Amazona, o którym Reuters poinformował w 2018 roku. Gigant e-commerce budował od 2014 roku narzędzie do automatycznego oceniania CV. Po kilku latach okazało się, że system systematycznie odrzuca CV zawierające słowo “kobiety” (np. “kwiaty kobiety” jako nazwa klubu studenckiego) lub absolwentek kobiet-szkoł. Amazon rozwiązał zespół i nigdy nie wdrożył systemu produkcyjnie, ale kod i podejście zostały skopiowane przez dziesiątki startupów HR-tech.

Kluczowy wniosek z tego przypadku: usunięcie zmiennej “płeć” z danych wejściowych nie eliminuje dyskryminacji. Modele głębokie potrafią odkrywać proxy-zmienne — cechy skorelowane z chronionymi atrybutami — i używać ich do decyzyjnych wniosków.

Polska realia: RODO, Kodeks pracy i luki prawne

W Polsce podstawą prawną jest Kodeks pracy (art. 11² i 18^3a), który zakazuje dyskryminacji w dostępie do zatrudnienia, oraz RODO (art. 22) dający prawo do niepodlegania decyzji opartej wyłącznie na przetwarzaniu automatycznym. Prawo te jednak były formułowane przed erą głębokiego uczenia i nie precyzują, co oznacza “decyzja oparta wyłącznie na automatyzacji” w kontekście systemów, które wspierają recruiterów, a nie zastępują ich w pełni.

W 2024 roku Komisja Europejska przyjęła AI Act, który klasyfikuje systemy AI do rekrutacji jako wysokie ryzyko (załącznik III). Oznacza to obowiązek oceny zgodności, rejestracji w bazie UE, transparentności w relation to kandydatów i nadzoru ludzkiego. Przepisy wchodzą w życie etapowo — pełna egzekwowalność dla systemów wysokiego ryzyka planowana jest na sierpień 2026 roku.

Polski legislator pracuje nad ustawą wykonawczą do AI Act. Projekt z maja 2026 roku przewiduje, że Urząd Ochrony Danych Osobowych będzie organem nadzorczym w zakresie systemów wysokiego ryzyka, a Inspekcja Pracy — w zakresie dyskryminacji w zatrudnieniu. Podwójny nadzór ma na celu zamknięcie luki: RODO chroni dane, Kodeks pracy — równe traktowanie, ale żaden z nich nie reguluje bezpośrednio jakości modeli uczenia maszynowego.

Co mogą zrobić kandydaci i pracodawcy

Dla kandydatów kluczowe jest rozumienie, jak systemy czytają CV. Formatowanie ma znaczenie: proste układy, standardowe nagłówki sekcji, unikanie grafik i kolumn, które parsery OCR mogą źle zinterpretować. Słowa kluczowe z ogłoszenia o pracę warto wpleść naturalnie w opis doświadczenia — systemy TF-IDF i embeddingowe wciąż silnie ważyją pokrycie leksykalne.

Pracodawcy powinni wymagać od dostawców ATS audytów biasu (tzw. bias audits) — niezależnych testów modelu na zrównoważonych zbiorach testowych. W USA stan Nowy Jork wprowadził w 2023 roku Local Law 144, wymagający rocznych audytów systemów automatyzowanych w rekrutacji i publikacji wyników. Unia idzie dalej: AI Act nakazuje monitoring w produkcji i procedury zgłaszania incydentów.

Kierunek zmian: explainable AI i human-in-the-loop

Najperspektywicznym kierunkiem jest przejście od “czarnych skrzyń” do modeli wyjaśnialnych (XAI — Explainable AI). Techniki takie jak SHAP (SHapley Additive exPlanations) czy LIME pozwalają zidentyfikować, które cechy CV najsilniej wpłynęły na ocenę. W połączeniu z zasadą human-in-the-loop — recruiter widzi rekomendację AI z uzasadnieniem i może ją odrzucić — daje to szansę na wykrywanie dyskryminacji w czasie rzeczywistym.

W Polsce pierwsze firmy zaczynają wdrażać takie podejście. Przykładem jest platforma reco, która od 2023 roku oferuje moduł “Fairness Check” generujący raporty o rozkładzie ocen w podziale na płeć, wiek i inne atrybuty chronione. To jednak wciąż wyjątki, a nie reguła.

Podsumowanie

AI w rekrutacji nie jest złośliwe — jest wiernym odbiciem danych, na których się uczy. Jeśli przez dekady kobiety i mniejszości miały gorsze szanse na awans, model to naucz. Rozwiązanie nie leży w’abandonowaniu technologii, ale w świadomej inżynierii sprawiedliwości: różnorodnych danych treningowych, regularnych audytach, transparentności wobec kandydatów i — przede wszystkim — zachowaniu decyzyjnej roli człowieka.

Przepisy nadążają, ale wolno. Do momentu pełnej egzekwowalności AI Act odpowiedzialność leży po stronie pracodawców: wybierajcie dostawców, którzy udowadniają jakość swoich modeli, a nie tylko obiecują “obiektywność”.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.