Dyskryminacja algorytmiczna w kredytowaniu i wynajmie
Dyskryminacja algorytmiczna w kredytowaniu i wynajmie
Algoty decydujące o tym, komu udzielić kredytu lub wynająć mieszkanie, nie są neutralne – pomimo że przedstawiają się jako obiektywne. Badania z ostatnich lat pokazują, że systemy te przenoszą i wzmacniają istniejące nierówności społeczne.
Gender bias w scoringu kredytowym
Naukowcy z University of Illinois przeanalizowali dane z amerykańskiego rynku kredytów i wykazali, że kobiety stale otrzymują niższe wyniki scoringu niż mężczyźni – o 6–8 punktów mniej – nawet po uwzględnieniu historii spłaty, salda długów i długości historii kredytowej. Co więcej, kobiety o tym samym score defaultują rzadziej niż mężczyzn, co sugeruje, że model jest nieprawidłowo skalibrowany. Badanie opublikowano w Journal of Behavioral and Experimental Finance (Liu i Liang, 2025).
Dyskryminacja strukturalna
Metaanaliza 78 prac naukowych z lat 2017–2022, opublikowana w AI & Society (Springer, 2023), wykazała, że badacze wciąż skupiają się na dyskryminacji bezpośredniej, podczas gdy dyskryminacja strukturalna – wynikająca z niedoskonałości danych treningowych – jest słabo zrozumiana. Algorytmy uczą się na historycznych danych, w których kobiety, osoby kolorowe i ludzie z uboższych środowisk byli systematycznie dyskryminowani. Wynik: algorytm reprodukuje te wzory.
Rynek najmów
W Wielkiej Brytanii badacze z University of Sheffield przebadali 50 wynajmodawców i zidentyfikowali narzędzia profilowania ryzyka najemców. Narzędzia te często kładą nacisk na cechy, które uznaje się za pożądane u najemcy, co wyklucza grupy marginalizowane – np. osoby z historią eksmisji, które w danych są silnie skorelowane z przynależnością etniczną. Badanie opublikowano w Urban Studies (2025).
Regulacja i audyty algorytmiczne są konieczne. W USA Equal Credit Opportunity Act i Fair Housing Act zakazują dyskryminacji – ale algorytmy są trudne do zbadania. Naukowcy proponują metodę Counterfactual Explanation Consistency, która wykrywa ukryte proceduralne obciążenie – sytuację, w której model daje ten sam wynik dla różnych grup, ale dochodzi do niego przez inne rozumowanie.
Oznaczenie treści AI
Ten powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
