AI w rekrutacji: jak algorytmy dyskryminują kandydatów bez winy
AI w rekrutacji: jak algorytmy dyskryminują kandydatów bez winy
Coraz więcej firm korzysta z oprogramowania analizującego CV i nagrania rozmów kwalifikacyjnych. Eksperci ostrzegają: systemy te mogą powtarzać uprzedzenia, które ludzie już kiedyś popełnili.
W 2021 roku jedna z największych firm technologicznych wycołała swoje narzędzie rekrutacyjne oparte na sztucznej inteligencji po tym, jak ujawniono, że system unikał kandydatek z kobiecymi imionami i wyższych uczelni. Firma przyznała, że algorytm nauczył się kojarzyć pewne profile z niższymi ocenami – nie dlatego, że tak było, ale dlatego, że tak było w przeszłości.
Jak to działa
Narzędzia rekrutacyjne analizują setki czynników: strukturę zdania w CV, prędkość mówienia, mimikę twarzy podczas wideorozmowy, nawet to, w jakim mieście kandydat urodził studia. Algorytm tworzy profil „idealnego pracownika” na podstawie danych z poprzednich zatrudnień – i to tych danych jest problem. Jeśli w przeszłości firma zatrudniała głównie absolwentów elitarnych uczelni, system zaczyna preferować takich kandydatów.
Dowody z researchu
Badacze z Uniwersytetu Stanforda przeanalizowali działanie narzędzia rekrutacyjnego jednego z dużych amerykańskich pracodawców. Odkryli, że 26 procentapplications od kandydatów o Afroamerykańskim pochodzeniu oraz 15 procent applications od kandydatów azjatyckich trafiło na stanowiska, w których system dyskryminował ich grupę etniczną. Gdyby system rekomendował wszystkich kandydatów w tym samym stopniu, ponad 40 tysięcy więcej applications dotarłoby do kolejnego etapu rekrutacji.
Z kolei badanie opublikowane na VoxDev przeanalizowało działanie pięciu dużych modeli językowych na podstawie 361 tysięcy fikcyjnych CV. Wyniki pokazały, że modele wykazują złożone wzorce uprzedzeń – na przykład kandyenci o Afroamerykańskim pochodzeniu byli oceniani niżej niż biali kandyenci o identycznych kwalifikacjach.
Regulacja
Unia Europejska przyjęła w 2024 roku rozporządzenie w sprawie sztucznej inteligencji (AI Act), które wymaga od firm testowania systemów AI pod kątem uprzedzeń przed wdrożeniem. Przepisy obejmują również przejrzystość – pracodawcy muszą informować kandydatów o korzystaniu z automatycznego przetwarzania danych. Wielu pracodawców wciąż korzysta z narzędzi, które nie przeszły takiej oceny – często dlatego, że nie zdawali sobie z tego sprawy.
Co kandydat może zrobić
Eksperci radzą, aby przed wysłaniem CV kandydat sprawdzali, czy firma korzysta z automatycznego filtrowania. Jeśli tak – warto zwracać uwagę na sformułowania w ofertach pracy i unikać słów kluczowych, które algorytm może źle zinterpretować. Niektóre firmy oferują teraz opcję „przegląd przez człowieka” – jej obecność staje się przewagą rekrutacyjną.
Oznaczenie treści AI
Ten powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagowany agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
