Algorytmy rekrutacyjne a dyskryminacja: jak AI powiela ludzkie uprzedzenia
Algorytm jako lustrzane odbicie przeszłości
Kiedy firma rekrutacyjna chwali się, że jej sztuczna inteligencja eliminuje ludzkie uprzedzenia z procesu selekcji kandydatów, warto zapytać: na jakich danych algorytm się uczył? Jeśli na wynikach pracy dotychczas zatrudnionych pracowników — a zwykle tak właśnie jest — to AI systematycznie będzie preferować osoby podobne do tych, którzy już w firmie pracują. Innymi słowy: replikuje historię zatrudnienia, nie kompetencje przyszłe.
Problem ten opisuje artykuł Seattle University podkreślający, że systemy analizy twarzy stosowane w rekrutacji wideo wykazują niższą dokładność rozpoznawania w przypadku ciemniejszych karnacji skóry oraz że technologia ta generuje segregację zawodową — kobiety i osoby o innym kolorze skóry są nieproporcjonalnie oceniane gorzej.
Skąd bierze się stronniczość AI
Zgodnie z opracowaniem American Bar Association, stronniczość algorytmiczna wynika z trzech głównych źródeł:
- Dane treningowe. Jeśli w zbiorze danych dominują przedstawiciele jednej grupy demograficznej, algorytm będzie się uczył cech kojarzonych z tą grupą. Nie jest to cecha „inteligencji”, lecz statystyczny artefakt danych wejściowych.
- Nieprawidłowe etykiety. Wiele systemów rekrutacyjnych ocenia też jakość CV na podstawie wcześniejszych ocen — błędnie zakodowane informacje o kwalifikacjach mogą prowadzić do odrzucania wykwalifikowanych kandydatów.
- Progi decyzyjne. Nawet niewielkie różnice w ocenie mogą powodować, że kandydat z mniejszości jest systematycznie odrzucany na wczesnym etapie, zanim dotrze do etapu czystej oceny kompetencji.
Stanford HAI opublikował w 2025 r. pierwsze badanie dużej skali algorytmów rekrutacyjnych w warunkach rzeczywistych. Wyniki pokazują niepokojące wzorce systematycznego odrzucania kandydatów — dotyczące w szczególności osób czarnoskórych.
Przypadki prawne
Według zestawienia Responsible AI Labs, jedną z głośniejszych spraw jest pozew ACLU przeciwko firmie HireVue (marzec 2025 r.). Zarzut dotyczył stosowania sztucznej inteligencji analizującej expresje twarzy w wideorekrutacji — co w przypadku osób z niepełnosprawnościami lub odmienną budową twarzy może prowadzić do dyskryminacji.
Problemem nie jest wyłącznie analiza twarzy. W 2018 r. Amazon wycofał wewnętrzne narzędzie rekrutacyjne, gdyż okazało się, że dyskryminuje kobiety przy ocenie CV na stanowiska techniczne. System był trenowany na danych z lat, gdy większość pracowników technicznych stanowili mężczyźni — i nauczył się, że CV zawierające słowo „kobiet” (np. „żeński klub hokejowy”) jest sygnałem niższej kwalifikacji.
Granica prawna
Eksperci wskazują, że stosowanie uprzedzonych algorytmów rekrutacyjnych może narazić pracodawcę na odpowiedzialność prawną z tytułu dyskryminacji. Zgodnie z amerykańskim Title VII oraz europejskim rozporządzeniem o równości w zatrudnieniu, to pracodawca odpowiada za skutki decyzji podejmowanych z użyciem dostarczonych przez siebie narzędzi — nawet jeśli sam nie miał intencji dyskryminacji.
Jak budować uczciwsze systemy
Rekomendacje praktyczne dla organizacji:
- Audyt algorytmu na danych wrażliwych. Przed wdrożeniem systemu warto przeprowadzić analizę, czy decyzje algorytmu różnią się istotnie w zależności od płci, rasy czy niepełnosprawności.
- Dane treningowe reprezentatywne. Należy aktywnie szukać próbek obejmujących wszystkie grupy demograficzne.
- Przejrzystość dla kandydata. Coraz więcej jurysdykcji wymaga informowania kandydatów, że są oceniani automatycznie.
- Człowiek jako nadzorca. Automatyczna rekomendacja nie powinna być jednoznaczna — zawsze powinna istnieć możliwość odwołania i przeglądu przez rekrutera.
Co warto zapamiętać
Sztuczna inteligencja w rekrutacji nie jest neutralna z natury. Jest tak neutralna, jak dane, na których ją zbudowano. Dopóki branża nie wdroży standardów audytu i przejrzystości, algorytmy będą raczej umacniać istniejące nierówności niż je niwelować.
