Dyskryminacja algorytmiczna w scoringu kredytowym
Scoring kredytowy to jedno z najstarszych zastosowań uczenia maszynowego w finansach. Banki i instytucje pożyczkowe od lat korzystają z modeli statystycznych, które na podstawie historii kredytowej, dochodów i innych zmiennych szacują ryzyko niewypłacalności. Problem polega na tym, że te modele nie są neutralne — uczą się na danych historycznych, które już zawierają uprzedzenia.
Jak powstaje dyskryminacja w scoringu
Model scoringowy uczy się na danych o przeszłych kredytach. Jeśli w przeszłości grupa mniejszościowa była rzadziej kredytowana albo otrzymywała gorsze warunki, model nauczy się traktować cechy z nią związane jako sygnał wyższego ryzyka. Dochodzi do błędnego koła: algorytm odmawia kredytu, bo grupa ma niski scoring; grupa ma niski scoring, bo algorytm odmawia kredytu.
Zmienne proxy wzmacniają ten efekt. Nawet jeśli model nie widzi bezpośrednio rasy czy płci, może wykorzystywać kod pocztowy, historię zakupów czy typ telefonu jako zastępniki tych cech. To tzw. dyskryminacja pośrednia, trudna do wykrycia w audycie.
Przykłady z praktyki
W Stanach Zjednoczonych badania wykazały, że algorytmy oceny ryzyka hipotecznego przyznawały mniejszościom wyższe oprocentowanie przy porównywalnej zdolności kredytowej. W Europie problem jest mniej nagłośniony, ale unijne organy nadzoru finansowego coraz częściej badają modele AI stosowane w kredytowaniu.
Regulacje i odpowiedzialność
Unijny Akt o sztucznej inteligencji (AI Act) klasyfikuje systemy oceny wiarygodności kredytowej jako wysokiego ryzyka. Wymaga to dokumentacji, audytów i nadzoru ludzkiego. W Polsce nadzór nad instytucjami finansowymi sprawuje KNF, która może żądać wyjaśnień dotyczących modeli algorytmicznych.
Co można zrobić
- Audytować modele pod kątem dyskryminacji — testy sprawiedliwości (fairness metrics).
- Usuwać zmienne proxy z danych treningowych.
- Zapewnić prawo do wyjaśnienia decyzji kredytowej.
- Włączyć człowieka w pętlę decyzyjną przy odmowach.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
