Maszyna feruje wyroki. Dlaczego algorytmy zatrudnienia dyskryminują
W 2025 roku przegląd 189 artykułów naukowych z ostatnich 10 lat, opublikowanych w czasopismach takich jak ACL, FAccT, NeurIPS i AAAI, ujawnił niepokojący wzorzec: 79,9 procent badań nad uprzedzeniami w sztucznej inteligencji skupia się na płci, a tylko 30,2 procent bada rasę i etniczność, 20,6 procent wiek, a 19,1 procent religię. To wąskie spojrzenie oznacza, że wiele innych form dyskryminacji pozostaje poza głównym nurtem badań. Co gorsza, 89,4 procent tych prac nie zawiera żadnych wskazówek, jak wdrożyć proponowane rozwiązania w realnych systemach.
Algorytmy nie są neutralne
Systemy sztucznej inteligencji działają jak czarne skrzynki: dają wyniki, ale rzadko wyjaśniają proces prowadzący do decyzji. Gdy algorytm rekrutacyjny odrzuca kandydatów na podstawie kodów pocztowych, które korelują z pochodzeniem etnicznym, dyskryminacja zachodzi nawet wtedy, gdy z danych usunięto bezpośrednie atrybuty chronione. To zjawisko nazywane jest dyskryminacją pośrednią — i jest trudniejsze do wykrycia niż jawne wykluczenie.
Badania pokazują, że algorytmy stosowane w rekrutacji preferują kandydatów męskich nad równie wykwalifikowanymi kobietami. W systemach kredytowych i ubezpieczeniowych decyzje mogą być oparte na wieku, lokalizacji lub profilu demograficznym. Kiedy algorytmy przewidują ryzyko przestępcze, dane treningowe mogą odzwierciedlać historyczne nierówności — co prowadzi do samonapędzającej się spirali: więcej kontroli w określonych dzielnicach generuje więcej danych o przestępczości, które następnie „potwierdzają” model.
Brak przejścia z laboratorium do rzeczywistości
Kluczowy problem to tzw. luka ostatniego kilometra. Chociaż 86,2 procent analizowanych badań projektuje nowe metody łagodzenia uprzedzeń, tylko 10,6 procent zawiera rekomendacje operacyjne — czyli instrukcje, jak te metody wdrożyć w prawdziwych systemach. To oznacza, że nawet skuteczne techniki pozostają w sferze akademickiej, podczas gdy systemy produkcyjne kontynuują dyskryminację.
W praktyce brak implementacji ma realne konsekwencje. Systemy zatrudnienia opierające się na dużych modelach językowych mogą powielać stereotypy związane z zawodami i płcią. Systemy oceny ryzyka zdrowotnego mogą prowadzić do nierównego przydziału zasobów — co wykazały badania nad modelami przewidującymi COVID-19, gdzie dane treningowe odzwierciedlające historyczne nierówności prowadziły do dyskryminacji w alokacji łóżek szpitalnych i respiratorów.
Co trzeba zrobić
Rozwiązanie wymaga zmian na wielu poziomach. Po pierwsze, projektanci systemów powinni stosować zróżnicowane zbiory danych i metody testowania przeciwstawnego, które wykrywają asymetrie w wynikach. Po drugie, konieczna jest przejrzystość: użytkownicy muszą wiedzieć, jakie kryteria stosuje algorytm i jak można odwołać się od decyzji. Po trzecie, regulacje muszą nadążać za technologią — nie wystarczy zakazać użycia atrybutów chronionych, gdy algorytm może je odtworzyć z danych pośrednich. W 2025 roku dyskryminacja algorytmiczna nie jest błędem — to systemowe ryzyko, które wymaga systemowej odpowiedzi.
