Dyskryminacja algorytmiczna 2026: audyt jako luksus, a nie standard

W 2025 roku AI Incident Database zarejestrowała ponad 850 unikalnych incydentów związanych z dyskryminacją algorytmiczną na całym świecie. Najczęściej dotyczyły one trzy obszary: rekrutacja (23 proc.), wymiar sprawiedliwości (18 proc.) i ochrona zdrowia (14 proc.). To nie są abstrakcyjne statystyki — to realne przypadki odrzucania kandydatów, błędnych ocen ryzyka kredytowego i niekorzystnych decyzji diagnostycznych.

Audyt jako wyjątek, nie reguła

Według OECD AI Policy Observatory, ponad 60 proc. organizacji wdrażających systemy AI w rekrutacji, pożyczkach i opiece zdrowotnej nigdy nie przeprowadziło formalnego audytu algorytmicznego. W tym samym czasie dokumentowane incydenty dyskryminacji wzrosły o 45 proc. między 2023 a 2025 rokiem. Luki między szybkością wdrażania a infrastrukturą odpowiedzialności są coraz szersze.

Audyt algorytmiczny nie oznacza jedynie testowania wyników — obejmuje ocenę pochodzenia danych, interpretowalność modelu, konsultacje z interesariuszami i ciągłe monitorowanie. W praktyce większość firm ogranicza się do prostych prób statystycznych, które nie wychwytują ukrytych biasów w danych treningowych.

Przykłady, które mają imiona

W 2025 roku OECD odnotował incydent, w którym systemy dużych modeli językowych systematycznie przedstawiały kobiety jako młodsze i mniej kompetentne niż mężczyzn — zarówno w ocenie CV, jak i w generowaniu opisów zawodowych. Nie chodzi o pojedynczy błąd, ale o embedingi i reprezentacje, które przenoszą stereotypy z danych treningowych do wyników.

W badaniach rekrutacyjnych OECD zarejestrowano kary za imiona brzmiące imigrancko — do 18,5 proc. niższy odsetek kontaktów z potencjalnymi pracodawcami. Eksperymenty z modelami językowymi wykazały różnice w ocenach w zakresie 1–3 punktów procentowych w zależności od płci i pochodzenia (PNAS Nexus, 2025), a badania embeddingów wskazują na 85,1 proc. preferencji nazwisk większościowych (arXiv, 2024).

Sprawa Mobley v. Workday — flagowy pozew dotyczący dyskryminacji w rekrutacji automatycznej — w maju 2025 roku uzyskała certyfikację zbiorową. To oznacza, że sąd uznał, że problem może dotyczyć klasy pracowników, a nie tylko pojedynczej osoby. W nowojorskim lokalnym prawie (Local Law 144) obowiązują już coroczne audyty narzędzi do automatycznych decyzji zatrudnienia.

Reguły gonią za technologią

Unia Europejska przyjąła AI Act, który wskazuje systemy rekrutacyjne jako wysokiego ryzyka — wymagające audytu przed wdrożeniem. W USA EEOC wydała wytyczne techniczne w 2023 roku i od tego czasu prowadzi postępowania przeciwko dostawcom narzędzi HR. Regulacja jest fragmentaryczna: nowe przepisy pojawiają się w poszczególnych stanach i miastach, podczas gdy firmy operują globalnie.

Co ważne, sama obecność audytu nie rozwiązuje problemu. Audyt musi być ciągły, oparty na reprezentatywnych próbkach i zatwierdzony przez niezależny podmiot. Zbyt często firmy traktują audyt jako jednorazowy test przed wdrożeniem, podczas gdy modele aktualizują się, dane się zmieniają, a nowe źródła biasu pojawiają się z każdym cyklem treningu.

Wnioski

Dyskryminacja algorytmiczna nie jest błędem technicznym, który można naprawić jedną poprawką kodu. To problem systemowy, wynikający z danych, architektury modelu, braku odpowiedzialności i presji na szybkość wdrożenia. Do 2025 roku ponad 850 incydentów zostało udokumentowanych — a to tylko te, które ktoś zauważył.

Dla organizacji kluczowe jest przyjęcie polityki audytowej jako standardu operacyjnego, nie elementu marketingowego. Dla regulatorów — konieczność ujednolicenia wymogów między jurysdykcjami, bo AI nie zna granic administracyjnych. Dla społeczeństwa — świadomość, że decyzje podejmowane przez algorytmy mogą reprodukować i pogłębiać istniejące nierówności.

Źródła:

• Sustainable Atlas / OECD AI Policy Observatory (2025) — algorytmiczna odpowiedzialność i audyt
• OECD AI Incident Database (2025-10-08) — incydent dyskryminacji w modelach językowych
• AI CERTs (2025) — kryzys dyskryminacji w rekrutacji HR
• PNAS Nexus (2025); arXiv (2024); OECD (2025) — badania embeddingów i kar za imiona imigranckie