Rekruter bez ocen: jak uprzedzenia sztucznej inteligencji przejmują ludzkie decyzje

Jednym z częstszych argumentów za stosowaniem sztucznej inteligencji w rekrutacji jest obiektywność: algorytm, w odróżnieniu od człowieka, nie ma nastroju, nie męczy się i nie ulega stereotypom. Badanie naukowców z Uniwersytetu Waszyngtońskiego pokazuje jednak słaby punkt tego rozumowania. Problemem nie jest samo to, że system ma uprzedzenia — problemem jest to, że człowiek korzystający z systemu przejmuje je bez oporu.

Jak przebiegało badanie

W badaniu wzięło udział 528 osób, które pracowały ze symulowanymi dużymi modelami językowymi, wybierając kandydatów na szesnaście różnych stanowisk — od analityka systemów komputerowych, przez pielęgniarkę, aż po pokojówkę. Naukowcy symulowali różne poziomy stronniczości rasowej w rekomendacjach dotyczących życiorysów równie wykwalifikowanych białych, czarnych, latynoskich i azjatyckich mężczyzn.

Wyniki były jednoznaczne. Bez wsparcia AI lub przy neutralnym rekomendatorze uczestnicy wybierali kandydatów białych i niebiałych w równym stopniu. Gdy jednak rekomendator był umiarkowanie stronniczy, uczestnicy działali zgodnie ze stronniczością systemu: jeśli AI faworyzowała kandydatów niebiałych, czynili to samo; jeśli faworyzowała białych — również. W wariancie z ostrym stronniczeniem ludzie podejmowali decyzje tylko nieznacznie mniej stronnicze niż rekomendacje, które dostawali.

Badanie zaprezentowano 22 października na konferencji AAAI/ACM poświęconej sztucznej inteligencji, etyce i społeczeństwu, która odbyła się w Madrycie.

Człowiek jako gumowy stempel

Szczególnie niepokojący jest kontekst praktyczny. W ankiecie cytowanej przez autorów badania 80 procent organizacji stosujących narzędzia AI w rekrutacji deklarowało, że nie odrzuca kandydatów bez uprzedniego przeglądu przez człowieka. Oznacza to, że model „człowiek zatwierdza decyzję maszyny” jest dziś dominującym wzorcem — i to właśnie on okazał się podatny na przenoszenie uprzedzeń.

Autorka badania, Kyra Wilson, zacytowana przez uczelnię, ujęła to wprost: ludzie byli gotowi zaakceptować uprzedzenia AI, o ile nie były rażące. Inaczej mówiąc, obecność człowieka w pętli decyzyjnej nie jest gwarantem bezstronności — jest gwarantem tylko wtedy, gdy człowiek rzeczywiście weryfikuje, a nie potwierdza.

Kontekst: audyt nie wykrywa tego automatycznie

Warto postawić to badanie obok danych branżowych. Raport Warden AI poświęcony stanowi stronniczości systemów AI w rekrutacji, oparty na ponad 150 audytach i ponad milionie prób testowych, pokazuje, że 85 procent audytowanych systemów spełnia przyjęte progi sprawiedliwości — na przykład zasadę czterech piątych stosowaną przez amerykańską komisję EEOC. Znaczy to tyle, że typowy system AI w rekrutacji nie jest gorszy od typowego procesu prowadzonego przez człowieka; w benchmarku opartym na badaniach akademickich systemy uzyskiwały średni wskaźnik 0,94, a procesy ludzkie 0,67.

Ale te same dane pokazują drugą stronę: 15 procent audytowanych narzędzi nie spełniło co najmniej jednego progu demograficznego, a rozrzut wyników między systemami sięgał 40 procent. Najgorzej wypadały narzędzia trenowane głównie na danych historycznych — czyli na wynikach tej właśnie ludzkiej stronniczości, którą AI miała łagodzić. System wytrenowany na stronniczej historii odtwarza ją z powrotem, a badanie UW pokazuje, że człowiek siedzący nad takim systemem przejmuje te wzorce jeszcze raz.

Co z tego wynika

Wniosek nie jest postulatem zakazu. Dane pokazują raczej, że problem stronniczości AI w rekrutacji jest rozwiązywalny na poziomie narzędzia — audytowalny i mierzalny — ale nie rozwiązuje się sam. Konieczne są trzy rzeczy: niezależny audyt systemu przed wdrożeniem i potem cyklicznie, świadomość rekruterów, że zaakceptowanie rekomendacji bez weryfikacji przenosi uprzedzenia systemu do decyzji, oraz traktowanie stronniczej rekomendacji jako sygnału alarmowego, a nie wygodnego skrótu.

Badanie UW ma także wymiar praktyczny: uczestnicy, którzy przed rozpoczęciem pracy z systemem przeszli test domniemanych skojarzeń, podejmowali decyzje o 13 procent mniej stronnicze. Oznacza to, że proste szkolenia z zakresu świadomości uprzedzeń, włączane do procesu rekrutacji, realnie łagodzą zjawisko.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.