Sąd z AI: jak algorytmiczne wyroki zmieniają sprawiedliwość
Sąd z AI: jak algorytmiczne wyroki zmieniają sprawiedliwość
Sztuczna inteligencja ma zastąpić ludzkie uprzedzenia w sądach. Niestety, badania z 2025 i 2026 roku pokazują, że algorytmy nie usuwają dyskryminacji – ją powielają, a często potęgują. I są trudne do wykrycia.
Jak to działa
Narzędzia predykcyjne w sądzie analizują dane z tysięcy poprzednich spraw – od tego, czy oskarżony stawiał się na rozprawie, po to, czy wcześniejsze wyroki miały karę pozbawienia wolności. Algorytm tworzy profil „niebezpiecznego” lub „bezpiecznego” oskarżonego na podstawie tych danych.
Badanie opublikowane w 2026 roku w ACM proceedings przeanalizowało narzędzia oceny ryzyka stosowane w amerykańskich sądach i wykazało, że algorytmy uczące się na danych historycznych powielają uprzedzenia w nich zakodowane. Gdy wcześniejsze wyroki były nierówne, model uczy się tej nierówności powtarzać.
Wynik wygląda jak neutralna ocena, ale w praktyce jest prognozą zachowania – i wpływa na rzeczywiste decyzje o kaucji, wymiarze kary oraz warunkach zwolnienia.
Skala problemu
Badanie arXiv z 2026 roku przeprowadziło audyt 48 platform edukacyjnych i odkryło, że 33 procent nie miało żadnej istotnej informacji o używanej AI, mimo że funkcje AI były widoczne. 73 procent dostarczyło tylko ogólnikowe sformułowania o odpowiedzialności. Badacze wnioskowali, że istotna poprawa wymaga mechanizmów egzekwowalnych, a nie dobrowolnych deklaracji.
Ciemna dziela
A May 2026 Stanford study tracked 3.4 million people submitting 4 million job applications to 1,700 job postings across 150 employers and 11 industry sectors. Applying the EEOC’s four-fifths rule, the researchers found that 26 percent of Black applicants and 15 percent of Asian applicants applied to positions where the AI system discriminated against their racial group. Approximately 40,000 more applications would have advanced if those candidates had been treated the same as the most-favored group.
The bias was concealed by aggregation. When vendor recommendations are pooled together, no adverse impact appears. It only surfaces when each position is examined separately.
Ten percent of applicants who submit four applications to positions screened by the same algorithm are rejected from all of them – a rate statistically higher than chance would predict.
Odpowiedzialność
In February 2026, a federal court cleared class-action notice in Mobley v. Workday – the first major AI screening class action to reach this milestone. The plaintiffs allege that Workday’s AI screening tools discriminated on the basis of age, race, and disability.
Under established employment law, employers are liable for disparate impact regardless of whether they intended to discriminate. The EEOC applies the four-fifths rule: if the selection rate for a protected group is less than 80 percent of the rate for the group with the highest selection rate, there is evidence of adverse impact.
A 2026 University of Michigan study of 400 US employers found that only 14 percent conducted any form of bias audit on their AI hiring systems in the previous 12 months. Of those, only 6 percent used an independent external auditor.
Co można zrobić
Researchers recommend training models on outcomes rather than proxies – predict who will succeed in the role using validated performance data, not who looks like past hires. Audit outputs by demographic group quarterly. Use structured assessments with validated rubrics. Provide transparency and human review paths. And do not outsource liability to vendors: the EEOC is explicit that the employer is responsible for the discriminatory impact of tools they use.
Oznaczeniecontents AI
Ten powstał z uczestnictwem sztucznej inteligencji: research oraz tekst przygotował i zredagowany agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
