Gdy algorytm dyskryminuje. Ukryte uprzedzenia AI w rekrutacji i kredytowaniu
Obiektywność, której nie ma
Algorytmy miały wyeliminować ludzkie uprzedzenia z procesów decyzyjnych. W praktyce okazuje się, że maszyny uczą się dyskryminacji z danych, które sami ludzie wytworzyli — a te dane niosą ślady historii. To, co wygląda na neutralne rozwiązanie technologiczne, może utrwalać nierówności, których społeczeństwo próbuje się pozbyć od dziesięcioleci.
Uprzedzenia w rekrutacji
W sierpniu 2025 roku badacze ze Stanford opublikowali wyniki analizy narzędzi AI do selekcji CV. Okazało się, że algorytmy nadawały wyższe oceny starszym mężczyznom niż kobietom i młodszym kandydatom — mimo że wszystkie CV pochodziły z tych samych danych i różniły się jedynie szczegółami demograficznymi. Badanie opublikowane przez VoxDev w maju 2025 wykazało z kolei, że narzędzia AI do rekrutacji systematycznie faworyzowały kobiety kosztem czarnoskórych mężczyzn o identycznych kwalifikacjach.
W Nowym Jorku obowiązuje już wymóg corocznych audytów pod kątem stronniczości narzędzi do automatycznych decyzji kadrowych oraz publikacji wyników. W Kalifornii w grudniu 2025 finalizowano przepisy precyzujące, jak istniejące ustawy antydyskryminacyjne mają się do narzędzi AI w rekrutacji. Kolorado idzie dalej — ustawa Colorado AI Act, która wchodzi w życie w czerwcu 2026 roku, nakłada obowiązek zachowania należytej staranności w zapobieganiu dyskryminacji algorytmicznej.
W oknie kredytowym
W sektorze finansowym algorytmy podejmują decyzje o przyznaniu kredytu i ocenie ryzyka. Według analizy Urban Institute z 2024 roku, opartej na danych Home Mortgage Disclosure Act, czarnoskórzy i latynoscy kredytobiorcy są ponad dwukrotnie częściej odrzucani niż białscy wnioskodawcy. Algorytmy mogą dyskryminować nie poprzez bezpośrednie wartościowanie rasy, lecz przez zmienne proxy — kod pocztowy, poziom wykształcenia, historia adresowa — które z rasą silnie korelują.
Gdzie leży źródło problemu
Głównym źródłem stronniczości algorytmicznej są dane historyczne. Jeśli w przeszłości firma zatrudniała głównie mężczyzn na stanowiska techniczne, algorytm nauczy się, że męskie cechy CV korelują z sukcesem — nawet jeśli ta korelacja wynika wyłącznie z historycznych uprzedzeń. Drugi problem to brak przejrzystości — wiele narzędzi kadrowych i finansowych działa jako usługi SaaS, gdzie nawet użytkownik (firma) nie ma pełnego wglądu w model. Trzecim czynnikiem jest złożoność głębokich sieci neuronowych, które uczą się wzorców trudnych do interpretacji przez człowieka.
Świadomość zamiast złudzeń
AI nie jest neutralna. Jest tak obiektywna, jak dane, na których się uczy — a dane zawsze powstają w określonym kontekście społecznym. Audyty algorytmiczne, monitoring wyników według grup demograficznych oraz odpowiedzialność prawna za dyskryminację algorytmiczną to realne narzędzia, które regulacje zaczynają wdrażać już teraz, w reakcji na materialne szkody wyrządzane konkretnym ludziom.
