Dyskryminacja algorytmiczna: kiedy sztuczna inteligencja powiela ludzkie uprzedzenia
W październiku 2025 roku Kalifornia zakończyła prace nad nowymi przepisami regulującymi stosowanie narzędzi sztucznej inteligencji w procesach rekrutacyjnych. W Nowym Jorku już obowiązuje lokalne prawo wymagające corocznych audytów stronniczości dla automatycznych systemów podejmujących decyzje o zatrudnieniu oraz publicznego raportowania wyników tych audytów. W Kolorado ustawa o sztucznej inteligencji (Colorado AI Act), obowiązująca od czerwca 2026 roku, nakłada na twórców i użytkowników systemów rekrutacyjnych obowiązek zachowania szczególnej staranności w celu zapobiegania dyskryminacji algorytmicznej.
Gdzie kryje się problem
Systemy oparte na uczeniu maszynowym uczą się na danych historycznych — a dane historyczne często odzwierciedlają ludzkie uprzedzenia. W 2025 roku naukowcy ze Stanford wykazali, że narzędzia AI do przesiewania CV przyznawały wyższe oceny starszym kandydatom płci męskiej niż zarówno kandydatom płci żeńskiej, jak i młodszym — mimo że wszystkie życiorysy zostały wygenerowane z tego samego zbioru danych. Inne badanie opublikowane przez VoxDev w maju 2025 roku wykazało, że systemy rekrutacyjne faworyzowały kandydatki płci żeńskiej kosztem kandydatów płci męskiej pochodzenia afroamerykańskiego o identycznych kwalifikacjach. Przykład ten pokazuje, że dyskryminacja nie musi być intencjonalna — wystarczy, że model odtwarza wzorce z przeszłości, która sama była niesprawiedliwa.
Postępowania sądowe jako sygnał
Sprawa Mobley przeciwko Workday (2025) — tocząca się obecnie jako pozew zbiorowy — zarzuca systemowi algorytmicznemu stosowanemu przez platformę rekrutacyjną systematyczną dyskryminację ze względu na wiek, rasę i niepełnosprawność. Jeśli sąd przyzna rację powodom, konsekwencje dla całej branży oprogramowania HR mogą być głębokie: od konieczności ponownego przeglądu modeli, przez wypłaty odszkodowań, po zmianę praktyk projektowania systemów.
Nowe standardy audytu
Standardy audytu stronniczości — takie jak FAIRE Benchmark z 2025 roku — pokazują znaczące różnice rasowe i płciowe w ocenach generowanych przez modele oparte na dużych modelach językowych. Uczelnia w Melbourne wykazała, że narzędzia do wywiadów wideo błędnie interpretowały wypowiedzi osób, dla których język angielski nie był ojczysty, oraz kandydatów z niepełnosprawnościami. To oznacza, że systemy, które miały usprawniać procesy, mogą wykluczać całe grupy społeczne z rynku pracy.
Co z tego wynika
Zgodność z regulacjami przestała być opcją — stała się podstawą. Audyty stronniczości, zgoda kandydata na automatyczną ocenę i publiczne raportowanie wyników to już nie postulaty, ale minimalne wymagania. Dla kandydatów oznacza to prawo do informacji, jak algorytm ocenia ich aplikację; dla pracodawców — konieczność inwestycji w przejrzystość, która może początkowo wydawać się kosztowna, ale w dłuższej perspektywie chroni przed ryzykiem prawnym i reputacyjnym.
Sztuczna inteligencja nie jest zła ani dobra — jest odbiciem danych, które jej podajemy. Jeśli te dane zawierają ludzkie uprzedzenia, algorytm nie je wyeliminuje, a jedynie uczyni bardziej precyzyjnymi i trudniejszymi do wykrycia.
