AI oceniająca kredyt: jak algorytmy dyskryminują kredytobiorców

Banki i firmy pożyczkowe coraz częściej zlecają decyzje o przyznaniu kredytu algorytmom. Systemy scoringowe oparte na sztucznej inteligencji obiekują szybkość i obiektywizm, w praktyce jednak prowadzą do dyskryminacji grup społecznych, których reprezentanci nawet nie wiedzą, że zostali odrzuceni przez maszynę.

Tradycyjny scoring opierał się na jasnych regułach: dochód, historia spłat, zadłużenie, zatrudnienie. W modelach AI możliwe jest tysiące zmiennych — sposób wpisywania danych w formularzu, godzina złożenia wniosku, typ urządzenia, z którego klient korzysta, a nawet sąsiedztwo, w którym mieszka. Algorytm uczy się na danych historycznych, które same w sobie niosą ślad dawnych nierówności. Jeśli w przeszłości banki rzadziej udzielały kredytów mieszkańcom pewnych dzielnic lub kobietom prowadzącym własną działalność, AI może to odczytać jako sygnał ryzyka i powielać ten wzorzec, automatycznie odrzucając podobne wnioski w przyszłości.

Największym problemem jest nie tylko sam odrzut, lecz brak możliwości jego wyjaśnienia. Klient otrzymuje odmowę z ogólnym komunikatem, nie dowiaduje się, który z czynników zadecydował o negatywnej decyzji. Przepisy Unii Europejskiej, w tym rozporządzenie AI Act, nakazują poinformować osoby podlegające zautomatyzowanym decyzjom o logice ich podejmowania, ale w praktyce banki odwołują się do tajemnicy handlowej i chronią swoje modele przed wglądem. Osoba odrzucona przez algorytm pozostaje więc z decyzją, której nie może skutecznie zaskarżyć.

Dodatkowo scoring AI utrudnia budowanie historii kredytowej osobom, które z różnych powodów nie korzystały wcześniej z usług bankowych — młodym, osobom po rozwodzie, emerytom czy pracownikom na umowach o dzieło. Brak danych w systemie algorytm odczytuje jako ryzyko, co zamyka drogę do kredytu jeszcze zanim klient miał szansę udowodnić swoją wiarygodność.

Eksperci ds. cyberbezpieczeństwa i ochrony danych osobowych apelują o obowiązkowe audyty algorytmów kredytowych oraz realne prawo do interwencji człowieka przy każdej odrzucającej decyzji. Bez tego scoring AI stanie się narzędziem ukrytej dyskryminacji, za którą nikt nie poniesie odpowiedzialności.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.