Algorytmy rekrutacyjne: gdy AI decyduje o karierze, a uprzedzenia pozostają niewidoczne
Corporacje coraz chętniej przekazują decyzje o zatrudnieniu systemom sztucznej inteligencji. Obietnica brzmi: obiektywność, szybkość, eliminacja ludzkich uprzedzeń. Rzeczywistość bywa inna — algorytmy uczą się na danych historycznych, a te wypełnione są dekadami dyskryminacji płciowej, rasowej i wiekowej.
Jak AI uczy się dyskryminować
Systemy rekrutacyjne oparte na uczeniu maszynowym trenują się na bazach kandydatów, którzy w przeszłości otrzymali oferty pracy. Jeśli przez lata firma zatrudniała głównie mężczyzn na stanowiska techniczne, model nauka, że cechy typowo męskie (określone słownictwo, trajektoria kariery, nawet hobby) korelują z sukcesem. Kobiety z identycznymi kwalifikacjami otrzymują niższe wyniki nie dlatego, że są mniej kompetentne, ale dlatego, że nie pasują do historycznego wzorca.
Podobnie dzieje się z wiekiem. Dane treningowe z branży technologicznej często nadreprezentują młodszych pracowników. Algorytm może oceniać kandydata powyżej 50. roku życia jako „mniej dopasowanego do kultury firmy”, nie mając pojęcia o pojęciu kultury — jedynie o statystycznej korelacji wieku z historycznymi zatrudnieniami.
Przypadek Amazon i inne precedensy
Najbardziej znany przykład to narzędzie rekrutacyjne Amazonu, które w 2018 roku ujawniono, że systematycznie obniżało oceny kandidek. System penalizował słowo „kobiety” w CV (np. „Klub Szachistów Kobiet”) oraz absolwentki uczelni dla kobiet. Amazon ostatecznie porzucił projekt, ale nie opublikował szczegółów technicznych, co utrudniło naukę innym firmom.
W Polsce Ustawa o równym traktowaniu w zatrudnieniu zabrania dyskryminacji, ale nie reguluje wyraźnie systemów AI. RODO artykuł 22 daje prawo do niepodlegania decyzji automatycznym, jednak w praktyce kandyci często nie wiedzą, że odrzucił ich algorytm, a nie człowiek.
Czarne skrzynki i brak odpowiedzialności
Większość systemów ATS (Applicant Tracking Systems) z modułami AI działa jako czarne skrzynki. Dostawcy oprogramowania (np. HireVue, Pymetrics, nowsze polskie rozwiązania) rzadko ujawniają architekturę modeli, dane treningowe ani metryki sprawiedliwości (fairness metrics). Firmy kupujące te usługi nie mają kompetencji do audytu, a organy nadzoru nie mają narzędzi do weryfikacji.
W USA EEOC (Equal Employment Opportunity Commission) wydało wytyczne, że pracodawcy odpowiadają za dyskryminację algorytmiczną tak samo jak za ludzką. W UE AI Act klasyfikuje systemy rekrutacyjne jako wysokie ryzyko, wymagając ocen wpływu na prawa podstawowe, rejestracji w bazie UE i ludzkiego nadzoru. Przepisy wchodzą w życie etapami do 2026 roku.
Co można zrobić już teraz
Organizacje mogłyby wdrażać audyty algorytmiczne przed wdrożeniem i cyklicznie w trakcie eksploatacji. Standardem powinno być testowanie na zbiorach zbalansowanych pod kątem płci, rasy, wieku, niepełnosprawności. Metryki: demographic parity, equalized odds, disparate impact ratio.
Kandydaci powinni mieć prawo do wyjaśnienia odmowy (right to explanation) oraz ludzkiego przeglądu decyzji. W Polsce warto śledzić pracę Komisji ds. Praw Człowieka i RPO w sprawie interpretacji RODO w kontekście AI HR.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
