Kiedy algorytm dyskryminuje: pozwów i prawa przeciwko systemom AI
Dyskryminacja algorytmiczna przestała być abstrakcyjnym pojęciem w raportach naukowych. Coraz częściej przybiera postać pozwów, w których powództwo wskazuje na system AI jako źródło nierównego traktowania — oparty na danych, które nie zawierają jawnie kategorii chronionych, ale odzwierciedlają historyczne dysparytety. W 2025 roku sądy w Stanach Zjednoczonych rozpatrywały sprawy, w których algorytmy wykorzystywane przez ubezpieczycieli i właścicieli nieruchomości powodowały statystycznie mierzalne różnice w wynikach między grupami etnicznymi.
W jednej z najważniejszych spraw sąd rozpatrywał zarzuty przeciwko State Farm, które wykorzystywało algorytm uczenia maszynowego do oceny roszczeń o odszkodowanie. System opierał się na danych biometrycznych, behawioralnych i mieszkaniowych — które — jak wskazano w pozwie — działały jako proxy dla rasy. Sąd uznał za wiarygodne zarzuty o statystycznej dysparytecie wobec czarnych ubezpieczonych: dłuższe oczekiwanie na rozpatrzenie oraz większa kontrola roszczeń. Decyzja sądu o odrzuceniu wniosku o umorzenie pozwu oznacza, że zarzut dyskryminacji oparty na algorytmie może przejść próg weryfikacji procesowej bez konieczności wykazania świadomego zamiaru.
W innej sprawie powództwo dotyczyło SafeRent Scores — algorytmu oceniającego wyniki najemców. System opierał się na danych kredytowych odzwierciedlających historyczne dysparytety rasowe, przy czym nie uwzględniał faktu korzystania z federalnych voucherów mieszkaniowych, co w praktyce dyskryminowało wnioskodawców z grup mniejszościowych. Sąd ponownie uznał za wiarygodne zarzuty o dysparytecie wobec osób czarnych i latynoskich, co wskazuje na rosnącą gotowość sądownictwa do traktowania algorytmu jako potencjalnego źródła dyskryminacji pośredniej.
Problem nie ogranicza się do sektora ubezpieczeniowego i mieszkaniowego. Badania nad systemami rekrutacji AI wykazują, że modele często powtarzają wzorce historyczne — faworyzując profile podobne do dotychczas zatrudnionych pracowników. Jeśli dane treningowe odzwierciedlają nierównowagę demograficzną, algorytm ją skaluje, a nie neutralizuje. Jak wskazuje analiza z Harvard Law Review, mechanizm jest prosty: większość decyzji AI odzwierciedla decyzje ludzkie, na których został wytrenowany — co oznacza, że algorytm działa jak precyzyjne lustro ludzkich uprzedzeń, a nie jako niezależne źródło dyskryminacji.
Prawo reaguje powoli, ale konsekwentnie. W Unii Europejskiej dyrektywa AI Act wprowadza wymogi transparentności i oceny ryzyka dla systemów stosowanych w obszarach krytycznych — w tym w rekrutacji, kredytowaniu i ubezpieczeniach. W Stanach Zjednoczonych sądy coraz częściej stosują istniejące przepisy o dyskryminacji (Title VII, Fair Housing Act) do decyzji podejmowanych przez algorytmy, bez konieczności wprowadzania specjalnych regulacji. To oznacza, że odpowiedzialność za decyzję nie znika wraz z przekazaniem jej maszynie.
Dla przedsiębiorstw konsekwencje są dwojakie. Po pierwsze — ryzyko prawne rośnie wraz z złożonością systemu. Po drugie — rozwiązanie techniczne (np. usunięcie zmiennych chronionych z danych wejściowych) nie wystarcza, gdy inne zmienne działają jako proxy. Analiza z Cornell Law School podkreśla, że dyskryminacja algorytmiczna jest wbudowana w projekt systemu — poprzez wybór danych, architekturę modelu i kryteria oceny — co wymaga audytu nie tylko danych wejściowych, ale całego pipeline’u decyzyjnego.
Nie chodzi o przypisywanie algorytmowi złej woli. Chodzi o uznanie, że każda decyzja o dużym wpływie społecznym — zatrudnienie, kredyt, dostęp do mieszkania, ocena ubezpieczeniowa — wymaga weryfikacji, czy algorytm nie reprodukuje nierówności ukrytych w danych historycznych. W 2026 roku pozwów z tego tytułu będzie więcej. Prawo nie musi czekać na regulację, by działać.
Źródła: Quinn Emanuel (When Machines Discriminate: The Rise of AI Bias Lawsuits), Cornell Law School (DEI for AI: Is There a Policy Solution to Algorithmic Bias?), Harvard Law Review (Resetting Antidiscrimination Law in the Age of AI), ScienceDirect (Bias in AI-driven HRM systems).
