29 artykułów
Systemy AI w rekrutacji i ocenie kredytowej powtarzają i wzmacniają istniejące nierówności. Badania z 2025 roku pokazują, że algorytmy faworyzują określone grupy, mimo rzekomej obiektywności.
Modele językowe stosowane w selekcji CV wykazują systematyczne preferencje — wobec własnych generacji, wobec określonych grup etnicznych i płci. W 2026 federalny sąd w Kalifornii rozpatruje pierwszą zbiorową sprawę przeciwko systemowi rekrutacyjnemu opartemu na AI.
Oprogramowanie algorytmiczne do ustalania czynszów, takie jak RealPage, stało się przedmiotem pozwów i ugod o wartości setek milionów dolarów. Oregon osiągnął ugodę 7 milionów dolarów, a właściciele mieszkań zapłacili 218 milionów dolarów. Czy algorytmy doprowadziły do zmowy cenowej na rynku najmu?
Rzeczoznawca wycenia twój dom raz, algorytm — miliony razy. Gdy AVM się myli, błąd systemowy podważa wyceny wszystkich kredytów na nim opartych. Urban Institute: błędy wyższe o 3,4 p.p. dla czarnych właścicieli.
Algorytmy sztucznej inteligencji oceniają zdolność kredytową w sekundy. Szybko, tanio i bez emocji. Ale czy sprawiedliwie? Dane historyczne noszą ślady dyskryminacji — i AI się ich uczy.
Systemy sztucznej inteligencji w diagnostyce medycznej powtarzają i pogłębiają istniejące nierówności. Badania wskazują na znaczne różnice w dokładności między grupami demograficznymi.
Systemy sztucznej inteligencji coraz częściej decydują o tym, kto dostanie pracę, kredyt, a nawet diagnozę medyczną. Problem polega na tym, że te decyzje bywają obciążone ukrytą dyskryminacją — rasową, płciową, ekonomiczną. Skąd się bierze i jak jej przeciwdziałać?
Algorytmiczne decyzje o zatrudnieniu, kredycie i ubezpieczeniu zaczynają trafiać przed sądy. Jak prawo reaguje na dyskryminację ukrytą w danych.
Systemy rekrutacyjne oparte na AI obiecują obiektywność, a scalają historyczne uprzedzenia. Setki badań z lat 2025–2026 pokazują, gdzie i jak algorytmy dyskryminują kandydatów.
Nowe badanie UW pokazuje, że ludzie kopiują uprzedzenia algorytmów w rekrutacji — gdy algorytmy dyskrymują, ludzie to odtwarzają w swoich decyzjach, utrwalając nierówności w procesie rekrutacji.
Systemy AI stosowane w rekrutacji często powielają historyczne uprzedzenia rasowe i płciowe. Przegląd mechanizmów, przypadków prawnych i zaleceń.
Narzędzia screeningu CV uczą się z historycznych decyzji i reprodukują ukryte wzorce. Badania Stanford i VoxDev z 2025 pokazują systematyczne faworyzowanie i odrzucanie grup chronionych. Regulacje w Kaliforniach, Nowym Jorku i Kolorado wchodzą w życie między 2025 a 2026.
Badania nad transkrypcją mowy pokazują, że systemy częściej błądzą przy niektórych akcentach i dialektach. Konsekwencje sięgają sądów, lekarzy i pracy.
Systemy AI stosowane w rekrutacji, ocenie kredytowej i nadzorze mogą utrwalać istniejące nierówności społeczne. Europejskie regulacje — w tym AI Act — próbują temu przeciwdziałać, ale skuteczność ograniczeń pozostaje niepewna.
Ponad 60 proc. organizacji wdrażających AI w rekrutacji, kredytowaniu i ochronie zdrowia nigdy nie przeprowadziło formalnego audytu algorytmicznego. W międzyczasie incydenty dyskryminacji wzrosły o 45 proc. między 2023 a 2025 rokiem.
Algorytmy rekrutacyjne i kredytowe powtarzają stare uprzedzenia w nowym opakowaniu. Przegląd 189 badań z ostatnich 10 lat pokazuje, że 79,9 procent analiz skupia się na płci, a 89,4 procent nie proponuje żadnych rozwiązań dla świata rzeczywistego.
Systemy rekrutacyjne wykorzystujące AI oceniają kandydatów według wzorców przeszłości, które często zawierają uprzedzenia rasowe, płciowe i wiekowe. Nowe regulacje w Kalifornii i Kolorado zmieniają reguły gry.
Inwestygacje ProPublica ujawniają, że największe amerykańskie firmy ubezpieczeniowe — UnitedHealth, Cigna i podwykonawcy tacy jak EviCore — używają algorytmów sterowanych sztuczną inteligencją do masowego odrzucania wniosków o sfinansowanie leczenia. Pacjenci tracą dostęp do terapii, a sądy federalne coraz częściej uznają te praktyki za naruszenie prawa.
Popularny algorytm przydzielający opiekę używał kosztów leczenia jako miary potrzeb — i systematycznie pomijał czarnych pacjentów. Analiza słynnego badania.
Systemy reklamowe pozwalały omijać grupy ludzi przy ogłoszeniach o mieszkaniach i pracy. Ustalenia regulatorów pokazały skalę cyfrowego segregowania.
Symulacja Brookings na trzech LLM i dziewięciu zawodach pokazała, że algorytmy screeningu CV faworyzowały kandydatów z męskimi imionami ponad pięciokrotnie częściej niż z kobiecymi. Bias rasowy był jeszcze bardziej wyraźny, szczególnie dla czarnoskórych mężczyzn.
Badanie Uniwersytetu Waszyngtońskiego pokazuje, że osoby współpracujące ze stronniczym rekomendatorem AI przejmują jego uprzedzenia — nawet wtedy, gdy samodzielnie byłyby bezstronne. Przy ostrym stronniczeniu ludzie podejmują decyzje niemal tak samo stronnicze jak system.
Raport Stanford AI Index 2025 odnotował wzrost incydentów związanych z AI o 56,4 procent w ciągu jednego roku. Systemy nadzoru oparte na sztucznej inteligencji wprowadzają dyskryminację strukturalną: błędna identyfikacja twarzy, przewidywania algorytmiczne w policji i brak przejrzystości w decyzjach zautomatyzowanych.
Narzędzia sztucznej inteligencji monitorują, oceniają i dyscyplinują pracowników w coraz większej skali. Co mówi najnowszy raport Parlamentu Europejskiego o ryzykach tak zwanej algorytmicznej zarządzania?
Holenderski system SyRI łączył dane z wielu urzędów, by wykrywać oszustwa w zasiłkach. Sąd w Hadze uznał w 2020 roku, że narusza prywatność — a rok później afera toeslagenaffaire przewróciła rząd Holandii.
System oceny ryzyka oszustw podatkowych oznaczył rodziny jako oszustów za pochodzenie rodziców. Skutki: odebrane dzieci, ruina finansowa i dymisja gabinetu.
Francuski rząd zalegalizował algorytmiczny nadzór wideo na Igrzyskach w Paryżu, holenderska policja utrzymywała bazę twarzy ze zdjęciami ludzi uniewinnionych przez sądy, a Europol kupił system rozpoznawania twarzy oceniony przez własnego radcę jako niosący ryzyko fałszywych trafień. Europa buduje infrastrukturę szybciej, niż ją porządkuje.
Algorytmy AI wyceniają składki zdrowotne i na życie w sekundy. Ale codziennie podejmują decyzje ukryte z cyfrowym redliningiem — odmawiając wypłat starszym czarnym właścicielom domów w Alabamie, podnosząc składki o 30% w dzielnicach mniejszości i analizując, ile telewizji oglądasz, by oszacować koszty twojego leczenia.
Sztuczna inteligencja nie jest neutralna. Błędy systematyczne w danych treningowych prowadzą do dyskryminacji rasowej, płciowej i etnicznej w obszarach od rekrutacji po sprawiedliwość karną.