AI w rekrutacji: algorytmy, które odrzucają kandydatów

AI w rekrutacji: algorytmy, które odrzucają kandydatów

Firmy na całym świecie coraz częściej używają sztucznej inteligencji do przesiewania CV, oceny kandydatów i prowadzenia rozmów kwalifikacyjnych. Obietnica jest prosta: szybciej, taniej, bez uprzedzeń. Rzeczywistość bywa inna.

Skąd problem

Systemy uczenia maszynowego uczą się na danych historycznych. Jeśli w przeszłości firma zatrudniała głównie mężczyzn na stanowiska techniczne, model nauczy się preferować męskie CV. Nie dlatego, że „zdecydował”, ale dlatego, że wzorzec jest w danych.

Badania akademickie wielokrotnie pokazały, że narzędzia oceniające kandydatów na podstawie analizy wideo mogą faworyzować osoby o określonym kolorze skóry, akcentie czy stylu mówienia. Osoby z niepełnosprawnościami, starsze lub pochodzące z mniejszości etnicznych mogą być systematycznie niżej oceniane.

Przypadki z życia

Jednym z najbardziej znanych przypadków jest system rekrutacyjny jednego z dużych koncernów technologicznych, który został wycofany po odkryciu, że preferował CV zawierające słowa częściej używane przez mężczyzn. Narzędzie oceniało kandydatów na podstawie wzorców z przeszłości — a przeszłość była patriarchalna.

W innych przypadkach systemy analizy mowy odrzucały kandydatów z akcentem, a algorytmy analizujące mimikę twarzy faworyzowały osoby młodsze. Żaden z tych systemów nie był „złośliwy” — po prostu optymalizował to, na czym był trenowany.

Co robi prawo

W Unii Europejskiej systemy AI używane w rekrutacji i zarządzaniu pracownikami są klasyfikowane jako „wysokiego ryzyka” w ramach Aktu o sztucznej inteligencji (AI Act). Oznacza to obowiązek oceny ryzyka, dokumentacji, nadzoru ludzkiego i zapewnienia przejrzystości.

W praktyce jednak egzekwowanie tych przepisów dopiero się kształtuje. Kandydaci często nie wiedzą, że byli oceniani przez algorytm, a firmy nie publikują wyników audytów.

Co możesz zrobić

• Zapytaj pracodawcę, czy proces rekrutacji wykorzystuje AI i na jakich zasadach.
• Jeśli uważasz, że zostałeś niesprawiedliwie odrzucony, możesz zażądać wyjaśnienia decyzji.
• Pracodawcy powinni regularnie audytować swoje systemy pod kątem dyskryminacji.
• Organizacje pozarządowe i inspektoraty pracy coraz częściej interweniują w sprawach algorytmicznej dyskryminacji.

Wnioski

AI w rekrutacji nie jest z natury zła. Problem polega na tym, że systemy są wdrażane szybciej, niż potrafimy je kontrolować. Bez audytów, przejrzystości i nadzoru ludzkiego ryzyko dyskryminacji jest realne i udokumentowane.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.