Dyskryminacja algorytmiczna: kiedy sztuczna inteligencja ocenia niesprawiedliwie
Dyskryminacja algorytmiczna to zjawisko, w którym systemy sztucznej inteligencji produkują wyniki nieobiektywne wobec określonych grup społecznych — mimo że same w sobie nie mają intencji. Powodem jest najczęściej stronniczość danych treningowych, w których odzwierciedlają się historyczne nierówności. Agencja Praw Podstawowych Unii Europejskiej wskazuje, że systemy AI w wymiarze sprawiedliwości, opiece zdrowotnej i rozpoznawaniu twarzy mogą utrwalać rasizm systemowy i generować wyniki dyskryminacyjne na masową skalę.
Gdzie pojawia się problem?
Dyskryminacja algorytmiczna dotyka w praktyce trzech głównych obszarów.
Rekrutacja i zatrudnienie. Algorytmy przeglądania CV i oceny kandydatów mogą faworyzować osoby o profilu zbieżnym z profilem dotychczasowych pracowników firmy. Jeśli historycznie firma zatrudniała głównie mężczyzn na stanowiska techniczne, algorytm nauczy się, że płeć męska jest „wskazówką” przydatności. Podobnie osoby z niepełnosprawnością mowy lub silnym akcentem obcym są oceniane niżej przez automatyczne narzędzia do rozmów kwalifikacyjnych — wykazały to badania przeprowadzone przez University of Melbourne w 2025 roku.
Kredyty i usługi finansowe. Algorytmy scoringowe wykorzystywane w bankowości mogą dyskryminować osoby z określonych dzielnic lub o określonym pochodzeniu etnicznym, nawet jeśli te zmienne nie są podawane bezpośrednio. Badania pokazują, że miejsce zamieszkania bywa silnie skorelowane z pochodzeniem etnicznym, co przekłada się na decyzje kredytowe.
Nadzór i bezpieczeństwo. Systemy rozpoznawania twarzy stosowane w nadzorze wideo mają udokumentowaną wyższą skuteczność w rozpoznawaniu osób o jaśniejszej karnacji. Systemy te przenoszą uprzedzenia z danych treningowych na decyzje operacyjne — co w kontekście egzekwowania prawa może prowadzić do nieproporcjonalnych interwencji wobec przedstawicieli mniejszości.
Ramy prawne: AI Act i RODO
Europejski akt o sztucznej inteligencji (AI Act, rozporządzenie 2024/1689) klasyfikuje systemy rekrutacyjne, oceny kredytowej i niektóre systemy biometryczne jako systemy wysokiego ryzyka. Oznacza to obowiązek zapewnienia nadzoru ludzkiego, przejrzystości danych wejściowych oraz monitorowania pod kątem stronniczości. Europejska Służba Badawcza Parlamentu (EPRS) podkreśla, że AI Act ma na celu ograniczenie dyskryminacji właśnie w tych obszarach — rekrutacji, scoringu kredytowym i kategoryzacji biometrycznej.
Jednocześnie przepisy te nakładają na pracodawców obowiązek informowania pracowników i ich przedstawicieli o wykorzystaniu systemów automatycznych w procesach decyzyjnych. RODO ma pierwszeństwo w zakresie przetwarzania danych osobowych, ale AI Act pozwala na przetwarzanie szczególnych kategorii danych (takich jak pochodzenie etniczne) w zakresie niezbędnym do wykrywania stronniczości w systemach wysokiego ryzyka.
Skuteczność regulacji — wątpliwości
Mimo istnienia ram prawnych skuteczność ograniczeń budzi wątpliwości. Badacze wskazują na kilka problemów. Po pierwsze, algorytmy uczą się wzorców w oparciu o dane historyczne — jeśli dane te odzwierciedlają dyskryminację, algorytm naturalizuje uprzedzenia. Po drugie, wykrycie stronniczości wymaga analizy danych wejściowych, co samo w sobie budzi wątpliwości związane z prywatnością. Po trzecie, nadzór ludzki bywa formalnością — osoba nadzorująca nie ma często kompetencji ani narzędzi do oceny, czy wynik algorytmu jest stronniczy.
Co może zrobić organizacja?
Wdrożenie systemów AI wysokiego ryzyka powinno być poprzedzone audytem danych treningowych pod kątem reprezentatywności. Pracodawcy i instytucje finansowe powinny regularnie testować wyniki algorytmów na próbach kontrolnych, weryfikując, czy grupy mniejszościowe nie są nieproporcjonalnie poszkodowane. Kluczowa jest też przejrzystość — osoby objęte automatyczną decyzją mają prawo wiedzieć, że decyzja nie była w pełni ludzka.
Dyskryminacja algorytmiczna to nie defekt techniczny do naprawienia aktualizacją oprogramowania. To problem społeczny, który algorytmy mogą albo utrwalać, albo — przy odpowiednim podejściu — stopniowo redukować.
