86 artykułów
Systemy AI w rekrutacji i ocenie kredytowej powtarzają i wzmacniają istniejące nierówności. Badania z 2025 roku pokazują, że algorytmy faworyzują określone grupy, mimo rzekomej obiektywności.
Modele językowe stosowane w selekcji CV wykazują systematyczne preferencje — wobec własnych generacji, wobec określonych grup etnicznych i płci. W 2026 federalny sąd w Kalifornii rozpatruje pierwszą zbiorową sprawę przeciwko systemowi rekrutacyjnemu opartemu na AI.
Systemy AI do selekcji CV mogą utrwalać uprzedzenia i odrzucać kandydatów ze względów niezwiązanych z kompetencjami. Artykuł opisuje ryzyka i zasady audytu.
Oprogramowanie algorytmiczne do ustalania czynszów, takie jak RealPage, stało się przedmiotem pozwów i ugod o wartości setek milionów dolarów. Oregon osiągnął ugodę 7 milionów dolarów, a właściciele mieszkań zapłacili 218 milionów dolarów. Czy algorytmy doprowadziły do zmowy cenowej na rynku najmu?
Systemy AI wspierające decyzje sędziowskie i ocenę ryzyka recydywy rodzą pytania o odpowiedzialność, przejrzystość i dyskryminację.
Firmy używają AI do oceny kandydatów na podstawie video-rozmów i analizy tonu głosu. Eksperci alarmują: systemy te dziedziczą uprzedzenia i wykluczają ludzi z marginesu.
Systemy AI wspierają sędziów w ocenie ryzyka nawrotu na przestępstwo. Badania pokazują, że ich prognozy faworyzują uwięzienie i obciążone są uprzedzeniami rasowymi i wiekowymi. Kalifornia odpowiada statystycznymi dowodami.
Rzeczoznawca wycenia twój dom raz, algorytm — miliony razy. Gdy AVM się myli, błąd systemowy podważa wyceny wszystkich kredytów na nim opartych. Urban Institute: błędy wyższe o 3,4 p.p. dla czarnych właścicieli.
Algorytmy sztucznej inteligencji oceniają zdolność kredytową w sekundy. Szybko, tanio i bez emocji. Ale czy sprawiedliwie? Dane historyczne noszą ślady dyskryminacji — i AI się ich uczy.
Systemy scoringowe oparte na sztucznej inteligencji coraz częściej decydują o przyznaniu kredytu. Brak przejrzystości i ryzyko dyskryminacji algorytmicznej to realne zagrożenie dla konsumentów.
Jak systemy AI oceniające zdolność kredytową mogą prowadzić do dyskryminacji i nieprzejrzystych decyzji.
Systemy sztucznej inteligencji w diagnostyce medycznej powtarzają i pogłębiają istniejące nierówności. Badania wskazują na znaczne różnice w dokładności między grupami demograficznymi.
Systemy sztucznej inteligencji coraz częściej decydują o tym, kto dostanie pracę, kredyt, a nawet diagnozę medyczną. Problem polega na tym, że te decyzje bywają obciążone ukrytą dyskryminacją — rasową, płciową, ekonomiczną. Skąd się bierze i jak jej przeciwdziałać?
Algorytmiczne decyzje o zatrudnieniu, kredycie i ubezpieczeniu zaczynają trafiać przed sądy. Jak prawo reaguje na dyskryminację ukrytą w danych.
Systemy rekrutacyjne oparte na AI obiecują obiektywność, a scalają historyczne uprzedzenia. Setki badań z lat 2025–2026 pokazują, gdzie i jak algorytmy dyskryminują kandydatów.
Nowe badanie UW pokazuje, że ludzie kopiują uprzedzenia algorytmów w rekrutacji — gdy algorytmy dyskrymują, ludzie to odtwarzają w swoich decyzjach, utrwalając nierówności w procesie rekrutacji.
Systemy AI stosowane w rekrutacji często powielają historyczne uprzedzenia rasowe i płciowe. Przegląd mechanizmów, przypadków prawnych i zaleceń.
Narzędzia screeningu CV uczą się z historycznych decyzji i reprodukują ukryte wzorce. Badania Stanford i VoxDev z 2025 pokazują systematyczne faworyzowanie i odrzucanie grup chronionych. Regulacje w Kaliforniach, Nowym Jorku i Kolorado wchodzą w życie między 2025 a 2026.
Systemy rozpoznawania twarzy na przejściach granicznych mylą się częściej wobec niektórych grup. Błędy mogą prowadzić do zatrzymań i odmowy wjazdu.
Modele AI decydowały o limitach kredytowych i świadczeniach rodzinnych. Gdy pojawiły się pytania, dlaczego odmówiły, wyjaśnienia szukało się miesiącami — a w niektórych sprawach nie było go wcale.
Badania nad transkrypcją mowy pokazują, że systemy częściej błądzą przy niektórych akcentach i dialektach. Konsekwencje sięgają sądów, lekarzy i pracy.
Systemy AI stosowane w rekrutacji, ocenie kredytowej i nadzorze mogą utrwalać istniejące nierówności społeczne. Europejskie regulacje — w tym AI Act — próbują temu przeciwdziałać, ale skuteczność ograniczeń pozostaje niepewna.
Ponad 60 proc. organizacji wdrażających AI w rekrutacji, kredytowaniu i ochronie zdrowia nigdy nie przeprowadziło formalnego audytu algorytmicznego. W międzyczasie incydenty dyskryminacji wzrosły o 45 proc. między 2023 a 2025 rokiem.
Systemy decyzyjne oparte na AI mogą utrwalac uprzedzenia i krzywdzić grupy marginalizowane. Brak transparentności utrudnia dochodzenie praw.
Algorytmy rekrutacyjne i kredytowe powtarzają stare uprzedzenia w nowym opakowaniu. Przegląd 189 badań z ostatnich 10 lat pokazuje, że 79,9 procent analiz skupia się na płci, a 89,4 procent nie proponuje żadnych rozwiązań dla świata rzeczywistego.
Systemy rekrutacyjne wykorzystujące AI oceniają kandydatów według wzorców przeszłości, które często zawierają uprzedzenia rasowe, płciowe i wiekowe. Nowe regulacje w Kalifornii i Kolorado zmieniają reguły gry.
Systemy ATS i narzędzia do screeningów CV oparte na AI systematycznie dyskryminują kobiety, osoby starsze i mniejszości etniczne. Przegląd spraw sądowych, regulacji UE i Polski oraz sposobów na obronę przed niesprawiedliwymi decyzjami maszyn.
Systemy AI decydują o kredytach, rekrutacji, orzekaniach sądowych i dostępie do zdrowia. Gdy dane treningowe zawierają uprzedzenia, algorytmy je uczą i powielają — często w sposób niewidoczny i trudny do oskarżenia.
Systemy AI coraz częściej oceniają uczniów, prognozują ich wyniki i decydują o ich przyszłości edukacyjnej. Analizujemy zagrożenia: uprzedzenia w ocenie automatycznej, inwigilacja w salach lekcyjnych i brak przejrzystości decyzji algorytmicznych.
Systemy sztucznej inteligencji coraz częściej oceniają prace uczniów, prognozują ich wyniki i decydują o ścieżce edukacyjnej. Kto odpowiada, gdy algorytm się myli?
Systemy rozpoznawania twarzy oparte na AI prowadzą do błędnych aresztowań i dyskryminacji. Artykuł omawia ryzyka, przypadki i zasady odpowiedzialnego użycia.
Systemy AI w rekrutacji mogą wzmacniać uprzedzenia i dyskryminować kandydatów. Analiza ryzyk i regulacji.
Największe badanie algorytmów rekrutacyjnych w historii ujawnia systemowy wykluczający efekt — ci sami kandydaci odrzucani przez jedną firmę.
Systemy AI coraz częściej decydują o tym, czy kandydat przejdzie do kolejnego etapu rekrutacji. Algorytmy mogą utrwalać uprzedzenia i prowadzić do dyskryminacji, często bez wiedzy aplikujących.
Systemy AI coraz częściej decydują, kto dostanie pracę. Badania pokazują, że mogą dyskryminować kobiety, mniejszości i osoby starsze.
Systemy AI screeningu CV automatycznie odrzucają kandydatów. Brak audytu, brak odwołania, brak transparentności.
Stany USA wprowadzają przepisy o algorytmicznym ustalaniu cen – od objawienia „ta cena ustalona algorytmem z Twoich danych” po zakaz wspólnych algorytmów najmu. Polen wciąż czeka na transpozycję dyrektyw UE. Kto zapłaci więcej za polisyę, bo algorytm tak zdecydował?
Banki i firmy pożyczkowe coraz częściej powierzają decyzje o kredycie algorytmom. Co oznacza to dla klientów i jakie prawa przysługują w razie automatycznej odmowy.
90 proc. amerykańskich pracodawców korzysta z AI przy rekrutacji. Badanie z Stanford wykazało, że systemy te dyskryminują kandydatów czarnoskórych i azjatyckich.
Coraz więcej firm używa sztucznej inteligencji do oceny wydajności i rekomendacji awansów. Pracownicy często nie wiedzą, jak działają te systemy, a błędy algorytmu potrafią kosztować karierę.
Systemy AI oceniają prace domowe, egzaminy i zachowanie uczniów, często bez wiedzy rodziców. Błędy algorytmu mogą kosztować młodego człowieka szansę na studia.
Inwestygacje ProPublica ujawniają, że największe amerykańskie firmy ubezpieczeniowe — UnitedHealth, Cigna i podwykonawcy tacy jak EviCore — używają algorytmów sterowanych sztuczną inteligencją do masowego odrzucania wniosków o sfinansowanie leczenia. Pacjenci tracą dostęp do terapii, a sądy federalne coraz częściej uznają te praktyki za naruszenie prawa.
Systemy AI wspierające decyzje o odebraniu dzieci rodzinom budzą poważne wątpliwości: błędy, uprzedzenia i brak przejrzystości.
Popularny algorytm przydzielający opiekę używał kosztów leczenia jako miary potrzeb — i systematycznie pomijał czarnych pacjentów. Analiza słynnego badania.
Narzędzia predykcyjne oceniające ryzyko recydywy są stosowane w sądach i policji. Błędy i stronniczość algorytmów mogą skutkować niesprawiedliwymi wyrokami.
Narzędzia oceny ryzyka recydywy są używane w systemach wymiaru sprawiedliwości. Ich błędy mogą kosztować lata wolności — a badania pokazują, że działają niesprawiedliwie wobec mniejszości.
Systemy AI prognozujące przestępczość obiecują skuteczniejszą prewencję, ale w praktyce często utrwalają uprzedzenia i prowadzą do niesprawiedliwych decyzji.
Coraz więcej instytucji publicznych używa systemów AI do oceny ofert. Ryzyko: ukryte błędy, brak przejrzystości i dyskryminacja nowych firm.
Systemy reklamowe pozwalały omijać grupy ludzi przy ogłoszeniach o mieszkaniach i pracy. Ustalenia regulatorów pokazały skalę cyfrowego segregowania.
Coraz więcej firm korzysta z oprogramowania analizującego CV i nagrania rozmów kwalifikacyjnych. Eksperci ostrzegają: systemy te mogą powtarzać uprzedzenia, które ludzie już kiedyś popełnili.
Systemy AI oceniające CV i rozmowy kwalifikacyjne mogą odtwarzać uprzedzenia i odrzucać grupy mniejszościowe.
Systemy AI do selekcji CV odrzucają kandydatów na podstawie płci, wieku i pochodzenia. Jak działają i jak się odwołać.
Systemy AI do selekcji CV potrafią odrzucać kandydatów ze względu na płeć, wiek czy pochodzenie — często bez wiedzy firmy.
Systemy AI do rekrutacji obiecują obiektywność, a w praktyce często wzmacniają uprzedzenia. Analizujemy, jak algorytmy oceniają CV, dlaczego kobiety i mniejszości wypadają gorzej i jakie regulacje mają to zmienić.
Firmy coraz częściej powierzają decyzje o zatrudnieniu systemom AI. Błędy algorytmów mogą skutkować dyskryminacją i naruszeniem prywatności.
Firmy coraz częściej powierzają algorytmom selekcję kandydatów. Systemy uczone na przeszłych decyzjach potrafią odtwarzać stare uprzedzenia — przypadek Amazona pokazał, jak to działa, a unijny AI Act wprowadza pierwsze twarde reguły.
Symulacja Brookings na trzech LLM i dziewięciu zawodach pokazała, że algorytmy screeningu CV faworyzowały kandydatów z męskimi imionami ponad pięciokrotnie częściej niż z kobiecymi. Bias rasowy był jeszcze bardziej wyraźny, szczególnie dla czarnoskórych mężczyzn.
Systemy ATS i narzędzia screeningu CV coraz częściej decydują, kto przejdzie do rozmowy. Błędy algorytmu potrafią kosztować pracę — i to grupy, które już są dyskryminowane.
Coraz więcej firm używa systemów AI do przesiewania CV i oceny kandydatów. Automatyczna selekcja może utrwalać uprzedzenia i odrzucać kompetentnych kandydatów bez przejrzystej oceny.
Systemy ATS i narzędzia AI do screeningu CV masowo odrzucają kandydatów na podstawie cech chronionych prawem. Polskie prawo pracy i RODO dają narzędzia, ale egzekwowanie jest trudne.
Coraz więcej firm korzysta z algorytmów do filtrowania zgłoszeń. Badania pokazują, że systemy te nauczyły się kopiować ludzkie uprzedzenia — i odrzucać kandydatów z określonych grup ze źródeł, które nie mają nic wspólnego z kwalifikacjami.
90 proc. amerykańskich pracodawców korzysta z algorytmów do selekcji kandydatów. Badania wskazują, że te systemy wykazują uprzedzenia rasowe i płciowe. Sprawdzamy, co mówią najnowsze dane i jak regulatory reagują.
Systemy ATS i narzędzia do screeningu CV oparte na AI masowo odrzucają kandydatów bez ludzkiego nadzoru. Brak przejrzystości, uprzedzenia w danych treningowych i brak odwoławczości tworzą nową formę dyskryminacji na rynku pracy.
Systemy AI oceniają CV i nagrania wideo kandydatów, często odrzucając ich bez ludzkiej decyzji. Omawiamy ryzyka i regulacje.
Systemy automatycznego filtrowania CV mogą odrzucać kandydatów z powodów niezwiązanych z kompetencjami.
Narzędzia AI analizujące nagrania wideo z rozmów kwalifikacyjnych oceniają kandydatów po mikroekspresjach i tonie głosu. Badania wskazują na ryzyko dyskryminacji i brak rzetelności naukowej.
Badanie Uniwersytetu Waszyngtońskiego pokazuje, że osoby współpracujące ze stronniczym rekomendatorem AI przejmują jego uprzedzenia — nawet wtedy, gdy samodzielnie byłyby bezstronne. Przy ostrym stronniczeniu ludzie podejmują decyzje niemal tak samo stronnicze jak system.
Sądy zaczynają sięgać po systemy AI do oceny ryzyka recydywy i wydawania wyroków. Błędy algorytmów mogą decydować o losach ludzi.
Systemy wspierające sędziów w orzekaniu mogą utrwalać uprzedzenia i osłabiać niezawisłość sądów.
Sądy w USA i Europie coraz częściej wspierają się algorytmami oceniającymi ryzyko recydywy. Problem: te narzędzia bywają stronnicze, nieprzejrzyste i trudne do zakwestionowania.
Systemy wspomagania decyzji sądowych oparte na AI stają się coraz powszechniejsze. Ich błędy i uprzedzenia mogą kosztować wolność.
Algorytmy oceniające wiarygodność kredytową mogą dyskryminować całe grupy społeczne, a decyzje banków coraz trudniej podważyć.
Algorytmy oceny zdolności kredytowej mogą odrzucać wnioski na podstawie wzorców, które trudno zakwestionować, a błędy kosztują klientów dostęp do pieniędzy.
Raport Stanford AI Index 2025 odnotował wzrost incydentów związanych z AI o 56,4 procent w ciągu jednego roku. Systemy nadzoru oparte na sztucznej inteligencji wprowadzają dyskryminację strukturalną: błędna identyfikacja twarzy, przewidywania algorytmiczne w policji i brak przejrzystości w decyzjach zautomatyzowanych.
Narzędzia sztucznej inteligencji monitorują, oceniają i dyscyplinują pracowników w coraz większej skali. Co mówi najnowszy raport Parlamentu Europejskiego o ryzykach tak zwanej algorytmicznej zarządzania?
Holenderski system SyRI łączył dane z wielu urzędów, by wykrywać oszustwa w zasiłkach. Sąd w Hadze uznał w 2020 roku, że narusza prywatność — a rok później afera toeslagenaffaire przewróciła rząd Holandii.
System oceny ryzyka oszustw podatkowych oznaczył rodziny jako oszustów za pochodzenie rodziców. Skutki: odebrane dzieci, ruina finansowa i dymisja gabinetu.
Systemy AI wspomagające triage w szpitalach mogą popełniać błędy i utrwalać nierówności w dostępie do opieki.
Francuski rząd zalegalizował algorytmiczny nadzór wideo na Igrzyskach w Paryżu, holenderska policja utrzymywała bazę twarzy ze zdjęciami ludzi uniewinnionych przez sądy, a Europol kupił system rozpoznawania twarzy oceniony przez własnego radcę jako niosący ryzyko fałszywych trafień. Europa buduje infrastrukturę szybciej, niż ją porządkuje.
Algorytmy AI coraz częściej decydują o wysokości składek ubezpieczeniowych. Czy to sprawiedliwsze wyceny ryzyka, czy nowa forma dyskryminacji opartej na danych, których klient nie ma kontroli?
Algorytmy oceny ryzyka w ubezpieczeniach mogą utrwalać uprzedzenia i prowadzić do niesprawiedliwych cen polis dla wybranych grup.
Algorytmy AI wyceniają składki zdrowotne i na życie w sekundy. Ale codziennie podejmują decyzje ukryte z cyfrowym redliningiem — odmawiając wypłat starszym czarnym właścicielom domów w Alabamie, podnosząc składki o 30% w dzielnicach mniejszości i analizując, ile telewizji oglądasz, by oszacować koszty twojego leczenia.
Systemy AI analizujące roszczenia ubezpieczeniowe potrafią oznaczyć uczciwego klienta jako oszusta. Konsekwencje: odmowa wypłaty, czarne listy i wykluczenie z rynku.
Ubezpieczyciele coraz częściej używają AI do wyceny ryzyka i odmowy polis. Algorytmy analizują dane z urządzeń noszonych, historii lekarskiej i mediów społecznościowych. Pacjenci tracą kontrolę nad swoimi danymi zdrowotnymi, a dyskryminacja chorób przewlekłych staje się systematyczna.
Systemy AI oceniające kandydatów do pracy i wnioski kredytowe mogą powielać i wzmacniać ludzkie uprzedzenia. Jak działają uprzedzenia algorytmiczne i jak się przed nimi chronić.
Sztuczna inteligencja nie jest neutralna. Błędy systematyczne w danych treningowych prowadzą do dyskryminacji rasowej, płciowej i etnicznej w obszarach od rekrutacji po sprawiedliwość karną.