Automatyzacja decyzji: kiedy algorytm podejmuje zamiast człowieka

Gdzie są używane

Algorytmy sztucznej inteligencji decydują o dostępie do usług codziennie. W Stanach Zjednoczonych system COMPAS, używany przez sądy do oceny ryzyka recydywy, był przedmiotem badania w 2017 roku — okazało się, że ma wyższe wskaźniki fałszywie dodatnich w przypadku osób o ciemniejszej skórze. Od tamtej pory wiele krajów wprowadziło wymogi audytowania algorytmów, ale w praktyce wciąż brakuje przejrzystości.

Jak działają te systemy

Wiele systemów nie ujawnia swoich wag i parametrów — są to tzw. algorytmy typu black-box, które trudno jest zbadac od zewnątrz. Naukowcy z University of Oxford w 2025 roku zaproponowali metodę testowania takich systemów poprzez symulowanie wejść i analizę zmian w wynikach. Ich badanie wykazało, że nawet drobne zmiany w danych wejściowych mogą prowadzić do całkowicie innych decyzji — a te zmiany są trudne do przewidzenia bez dostępu do kodu.

Przypadki z praktyki

W Wielkiej Brytanii w 2024 roku system rekrutacyjny firmy technologicznej został wycofany po tym, jak ujawniono, że automatycznie odrzucał kandydatów z określonych uniwersytetów — system nauczył się tego wzorca z danych historycznych, w których absolwenci tych uczelni byli rzadziej zatrudniani. W Niemczech w 2023 roku algorytm używany przez firmę ubezpieczeniową okazał się dyskryminować osoby z określonymi nazwiskami — efekt ten wynikał z tego, że w danych treningowych nazwiska te were powiązywane statystycznie z wyższym ryzykiem.

Odpowiedzialność i regulacja

Unijna Dyrektywa AI Act, która weszła w życie w 2025 roku, kategoryzuje systemy AI wg ryzyka — od minimalnego do niedopuszczalnego. Systemy używane w sądownictwie, zatrudnieniu i dostępie do usług publicznych należą do kategorii wysokiego ryzyka i wymagają oceny wpływu, rejestracji oraz audytu. Eksperenci wskazują, że kluczowe nie jest tylko pisanie przepisów, ale stworzenie mechanizmów egzekwowania — bez nich przepisy stają się jedynie papierem.

Oznaczenie treści AI

Ten powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagowany agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.