Algorytmiczny bias: dyskryminacja ukryta w kodzie
Czym jest algorytmiczny bias
Algorytmiczny bias to systematyczne, powtarzalne błędy w wynikach działania systemu sztucznej inteligencji, które prowadzą do niesprawiedliwego traktowania określonych grup ludzi. W przeciwieństwie do ludzkiego uprzedzenia, które można dostrzec i skonfrontować, bias w kodzie jest często ukryty — w danych treningowych, w wyborze funkcji, w definicji celu optymalizacji.
Zjawisko to dotyka wielu dziedzin życia. Występuje w wynikach wyszukiwarek, które utrwalają stereotypy rasowe i płciowe. Pojawia się w rekomendacjach mediów społecznościowych, które mogą ograniczać ekspozycję treści mniejszości. Wpływa też na profile ryzyka kredytowego, gdzie mieszkańcom niektórych dzielnic systematycznie odmawia się finansowania.
Mechanizmy powstawania uprzedzeń
Bias w sztucznej inteligencji nie powstaje przypadkowo. Ma kilka powszechnych źródeł:
- Zapożyczone dane historyczne — algorytmy uczą się na danych z przeszłości, która zawiera ludzkie uprzedzenia. Jeśli historycznie na pewne stanowiska przyjmowano większościowo mężczyzn, model wnioskuje, że mężczyźni lepiej pasują na to stanowisko.
- Niereprezentatywne próby — jeśli zbiór treningowy składa się głównie z danych białych użytkowników z krajów zachodnich, model gorzej radzi sobie z rozpoznawaniem twarzy osób czarnoskórych.
- Zmienne zastępcze — kody pocztowe, imiona czy akcent głosowy mogą być korelatami rasy i czynnikami dyskryminującymi, nawet jeśli model nie ma bezpośredniej informacji o rasie.
- Cel optymalizacji — maksymalizacja kliknięć w mediach społecznościowych premiuje treści kontrowersyjne i polaryzujące, które nieproporcjonalnie docierają do wrażliwych grup.
Rzeczywiste skutki dyskryminacyjne
Konsekwencje bias w sztucznej inteligencji nie są abstrakcją. W latach 2018-2023 ujawniono szereg konkretnych przypadków:
- System rekrutacyjny Amazon (2018), który degradował kandydatki na stanowiska techniczne, ponieważ ucząc się na historycznych zatrudnieniach, uznał, że skuteczne kandydatki to mężczyźni.
- System rozpoznawania twarzy (odkryty w 2018-2019 przez Joy Buolamwini), który miał znacząco wyższy odsetek błędów dla kobiet ciemnoskórych niż białych mężczyzn — różnica rzędu kilkudziesięciu punktów procentowych.
- Algorytm sądowy COMPAS (udokumentowany przez ProPublica w 2016), który przypisywał wyższe ryzyko recydywy czarnoskórym oskarżonym niż byłoby to słuszne z danych faktycznych, a niższe białym.
- Systemy oceny kredytowej ujawnione w 2024-2025, które nieproporcjonalnie odmawiały kredytów mieszkańcom dzielnic o profilu mniejszościowym.
W książce AI, Ethics, and Discrimination in Business (Marabella, 2024-2025) autorzy dokumentują, jak w obszarach od bankowości po zasoby ludzkie efektem tego, co nazywają „kołem uprzedzeń”, jest podwójna niesprawiedliwość: dyskryminacja najpierw historyczna, a teraz zautomatyzowana i skalowana.
Algorytmy jako (nie)cnotliwi poznawcy
Badania Jonathana Van Eyghena i współpracowników (2024-2025) proponują głębszą perspektywę filozoficzną. Argumentują: to nie tylko dane są problemem. Algorytmy same w sobie są specyficznymi podmiotami poznającymi. Pytanie, czy algorytmy mogą być cnotliwymi poznawcami — to jest podmiotami epistemicznymi posiadającymi cnoty poznawcze takie jak sprawiedliwość, umiarkowanie czy otwartość — spotyka się z istotnymi odpowiedziami negatywnymi.
Algorytmy nie rozumieją kontekstu społecznego. Nie osadzają danej sytuacji w szerszej perspektywie etycznej. Działają w obrębie statystycznych korelacji, które bywają prawdziwe, ale nie odnoszą się do prawdy w sensie ludzkim. Z tego powodu to ujęcie sugeruje, że choć sztuczna inteligencja może obiektywnie obliczać wyniki liczbowe, w obliczu ostatecznych decyzji o ludziach nie powinna stanowić ostatecznego autorytetu.
Regulacje i odpowiedź prawna
Unia Europejska odpowiedziała wieloma aktami. RODO (2018, GDPR) wymaga, aby każda w pełni zautomatyzowana decyzja mająca znaczący wpływ na obywatela była poddawana prawu do wyjaśnienia i do kontestacji. Akt o AI (2024, AI Act) wprowadził szerszą strukturę, klasyfikując systemy AI według stopnia ryzyka i zakazując m.in. wsparcia AI w obszarach takich jak punktacja społeczna, biometryczna identyfikacja w czasie rzeczywistym w miejscach publicznych oraz psychologiczna eksploatacja osób wrażliwych.
W Stanach Zjednoczonych brak federalnej ramy prawnej kompensuje się regulacjami sektorowymi i stanowymi — przykładowo w Illinois i Nowym Jorku wprowadzone zostały ustawy dotyczące audytu bias w sztucznej inteligencji stosowanej w rekrutacji.
Perspektywy na 2026
Badania z 2025 roku wskazują, że świadomość problemu rośnie, ale egzekwowanie pozostaje nierównomierne. Audyty algorytmiczne stają się regularną praktyką w dużych firmach, ale mniejsi podmioty często wciąż działają poza kontrolą. Książka Marabelli z 2025 roku, podsumowująca badania w biznesie, rekomenduje traktowanie bias jako integralnego ryzyka biznesowego, nie jedynie problemu etycznego.
Dlaczego to takie ważne? Ponieważ każde wdrożenie sztucznej inteligencji niesie ze sobą wbudowane wartości. Ignorowanie bias to nie neutralność — to przyzwolenie dla istniejących nierówności, zautomatyzowanych i przyspieszonych dzięki wysokiej skali.