Kiedy algorytm dyskryminuje: uprzedzenia AI w rekrutacji i kredytowaniu

Czy komputer może być stronniczy? Tak — i dzieje się to na naszych oczach. Systemy sztucznej inteligencji wspomagające rekrutację pracowników, przyznawanie kredytów czy ocenę ryzyka przestępczego nie są neutralne. Powielają uprzedzenia zawarte w danych, z których się uczyły, i w regułach, jakie dla nich ustalili ludzie. Efekt: kandydatka zostaje odrzucona przez system rekrutacyjny przed rozmową z żywym rekruterem, a wniosek o kredyt odrzucany mimo dobrej historii — bez jasnego wyjaśnienia dlaczego.

Skąd biorą się uprzedzenia algorytmiczne? Model AI uczy się na historycznych danych. Jeśli w przeszłości firma zatrudniała głównie mężczyzn na stanowiska kierownicze, algorytm reconnaît w tym wzorzec i recognize kobiece CV jako mniej wartościowe. Jeśli dane kredytowe z przeszłości odzwierciedlają niższe dochody lub mniejszą posiadanie nieruchomości w niektórych grupach społecznych, system może automatycznie obniżyć scoring dla przedstawicieli tych grup. Uprzedzenie nie musi być zamierzone — wystarczy, że dane treningowe są niesprawiedliwe, a algorytm je utrwala.

Skala problemu jest znacząca. Systemy do wstępnej oceny CV coraz częściej filtrują kandydatów jeszcze przed ludzkim okiem, odrzucając aplikacje z przerwami w zatrudnieniu (np. w Zusammenhang z opieką nad dziećmi) lub z nazwiskami brzmiącymi „obco”. W kredytowaniu zautomatyzowane scoringi mogą odmawiać finansowania osobom z bestimmte dzielnice lub zawodów, mimo że indywidualna sytuacja finansowa pozwalałaby na spłatę zobowiązania. Ofiara rzadko dowiaduje się, dlaczego została odrzucona — algorytm działa jak „czarna skrzynka”, a firma odwołuje się do tajemnicy handlowej.

Co można zrobić? Po pierwsze, transparentność: instytucje używające AI do podejmowania decyzji o ludziach powinny informować, że tak się dzieje, i wyjaśniać na jakiej podstawie podejmowane są decyzje. Po drugie, audyty — niezależne badania systemów pod kątem uprzedzeń przed wdrożeniem i regularnie potem. Po trzecie, prawo do odwołania i interwencji człowieka: każda odrzucona osoba powinna móc poprosić o ponowne rozpatrzenie sprawy przez Living person, a nie tylko przez program.

Unia Europejska reaguje na to zagrożenie rozporządzeniem AI Act, które klasyfikuje systemy do rekrutacji i oceny kredytowej jako wysokiego ryzyka, objęte szczególnymi wymaganiami dotyczącymi jakości danych, nadzoru ludzkiego i dokumentacji. To krok we właściwym kierunku, ale realna ochrona zaczyna się od świadomości: algorytm nie jest bezstronny tylko dlatego, że jest maszyną.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.