AI w decyzjach kredytowych: algorytm, który odmawia bez wyjaśnienia

Wniosek kredytowy składa się dziś często bez kontaktu z człowiekiem. System ocenia aplikację w kilkadziesiąt sekund, zestawia setki zmiennych i wydaje decyzję. Dla klienta oznacza to wygodę — o ile odpowiedź brzmi „tak”. Gdy algorytm odmawia, wnioskodawca dostaje komunikat, który nic nie wyjaśnia: „decyzja negatywna na podstawie analizy danych”. Nie wiadomo, która zmienna zaważyła, czy była w ogóle związana z wypłacalnością, ani czy decyzja nie jest echem uprzedzeń zapisanych w danych historycznych.

Skąd biorą się dyskryminujące decyzje

Model scoringowy uczy się na danych z przeszłości. Jeśli w historii portfela kredytowego pewne grupy — ze względu na miejsce zamieszkania, wiek, płeć albo sposób korzystania z usług w sieci — rzadziej otrzymywały kredyty, model przenosi te zależności do przyszłości. Dyskryminacja nie musi być wpisana w kod wprost: wystarczy, że model znajdzie statystycznie wygodny „korelat”, pośrednio prowadzący do odmowy dla konkretnej grupy.

Do tego dochodzi problem zmiennych pozornie neutralnych. System może oceniać wiarygodność na podstawie zachowań w aplikacji: czasu spędzonego na czytaniu regulaminu, modelu telefonu, sposobu pisania. Każda z tych zmiennych nie jest chronioną prawem cechą, ale w praktyce koreluje z wiekiem, zamożnością albo niepełnosprawnością. Odmowa „bo algorytm tak policzył” staje się w ten sposób odmową z powodu cechy, o której wnioskodawca nie wie, że została uwzględniona.

Że ryzyko nie jest teoretyczne, pokazało opublikowane w 2020 roku badanie organizacji FinRegLab: we wszystkich pięciu badanych amerykańskich instytucjach kredytowych modele uczenia maszynowego wykazywały niewyjaśniony, zróżnicowany wpływ na grupy wnioskodawców — nawet po usunięciu chronionych prawem cech z danych wejściowych.

Kiedy odmowa musi mieć wyjaśnienie

Prawo Unii Europejskiej daje klientom narzędzia obrony. Rozporządzenie o sztucznej inteligencji (AI Act) zalicza systemy oceny wiarygodności kredytowej osób fizycznych do kategorii wysokiego ryzyka: banki muszą je dokumentować, rejestrować, oceniać wpływ na prawa podstawowe i zapewniać nadzór ludzi — całkowicie zautomatyzowana decyzja bez możliwości jej skontrolowania jest niedopuszczalna. Terminy obowiązków dla systemów wysokiego ryzyka, pierwotnie wyznaczone na sierpień 2026 roku, zostały w wyniku porozumienia w sprawie unijnego pakietu „Digital Omnibus” przesunięte na grudzień 2027 roku.

Bliższy termin wyznaczyło orzecznictwo. Trybunał Sprawiedliwości Unii Europejskiej w sprawie Schufa (C-634/21, grudzień 2023 roku) orzekł, że już samo wygenerowanie oceny punktowej — nie tylko ostateczna decyzja kredytowa oparta na tej ocenie — stanowi zautomatyzowaną decyzję indywidualną w rozumieniu art. 22 RODO, o ile ocena odgrywa rozstrzygającą rolę w decyzji. Wnioskodawca ma prawo do interwencji człowieka, do wyrażenia własnego stanowiska i do zakwestionowania oceny, a także do istotnych informacji o logice, na której oparto wynik. Trybunał podkreślił przy tym, że wyjaśnienie nie może sprowadzać się do podania listy danych wejściowych modelu.

W praktyce egzekwowanie tych praw bywa trudne. Banki powołują się na tajemnicę handlową modelu, a wyjaśnienie bywa zredukowane do powtórzenia komunikatu odmowy. To jedna z przyczyn, dla których unijny ustawodawca poświęcił ocenie kredytowej tak dużo uwagi w AI Act: decyzja o przyznaniu kredytu kształtuje życie — dostęp do mieszkania, edukacji, prowadzenia firmy — a brak uzasadnienia przenosi całe ryzyko na słabszą stronę relacji.

Co może zrobić wnioskodawca

Kilka kroków ma zastosowanie w każdej odmowie opartej na zautomatyzowanej decyzji:

• żądać pisemnego wyjaśnienia na podstawie art. 22 RODO — administrator danych ma obowiązek wskazać zasady, na których oparto ocenę;
• poprosić o ponowne rozpatrzenie wniosku przez człowieka;
• sprawdzić swoją historię kredytową w biurze informacji gospodarczej i zakwestionować błędne wpisy;
• złożyć skargę do Prezesa Urzędu Ochrony Danych Osobowych, gdy wyjaśnienia odmówiono.

Automatyzacja decyzji kredytowych ma też jasną stronę: system ocenia spójnie, bez zmęczenia i bez sympatii do „dobrego klienta”. Ryzyko pojawia się wtedy, gdy spójność dotyczy błędnych założeń — dlatego prawo wymaga, by ostatnie słowo w odmowie mogła mieć osoba, a nie model.

Oznaczenie treści AI

Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.