Algorytm decyduje, kto dostanie pracę: dyskryminacja w rekrutacji z użyciem AI
Człowiek, który ocenia documenty aplikacyjne, jest rzadko bezstronny — i dokładnie dlatego firmy zaczęły powierzać selekcję kandydatów maszynom. Algorytm nie jest zmęczony, nie ma „gorszego dnia” i co do zasady ocenia wszystkie podania według tych samych reguł. Jest jednak pułapka, którą badacze i regulatorzy opisują od lat: system uczy się na danych z przeszłości, a przeszłość pełna była uprzedzeń. Algorytm, zamiast je wyeliminować, potrafi je odtworzyć — skuteczniej i na większą skalę niż jakikolwiek rekruter.
Amazon: lekcja, której nie zapomniano
Najsłynniejszy przykład pochodzi jeszcze sprzed rozkwitu generatywnej sztucznej inteligencji. Amazon budował wewnętrzne narzędzie do oceny dokumentów aplikacyjnych, które uczyło się na podaniach złożonych w ciągu poprzedniej dekady. Ponieważ w tamtym okresie większość stanowisk technicznych obsadzali mężczyźni, system nauczył się, że kandydatki są mniej pożądane. Jak podała agencja Reuters w 2018 roku, narzędzie obniżało oceny dokumentów zawierających słowo „kobiety” (na przykład w zdaniu o przewodnictwie w klubie żeńskim) i premiowało określenia typowe dla męskich życiorysów. Projekt zamknięto, bo twórcom nie udało się zagwarantować, że maszyna nie znajdzie innych, ukrytych sposobów segregowania kandydatów.
Ta historia pokazuje sedno problemu: algorytm nie musi „chcieć” dyskryminować. Wystarczy, że nauczy się z danych, w których dyskryminacja już występowała.
Skąd się bierze uprzedzenie w danych
Problemy pojawiają się na kilku poziomach. Po pierwsze, dane historyczne — jeśli w danym zawodzie kobiety, osoby starsze albo cudzoziemcy byli rzadko zatrudniani, model uczy się tego stanu jako normy. Po drugie, zmienne zastępcze — system nie musi pytać o płeć, by ją „wydedukować”: wystarczą informacje o imieniu, szkole, dojazdach czy przerwach w zatrudnieniu. Po trzecie, kryteria pośrednie — ranking wyższych uczelni, aktywność w mediach społecznościowych czy długość dokumentu aplikacyjnego mają niewiele wspólnego z kompetencjami, a dużo ze statusem społecznym.
Do tego dochodzi problem testów psychometrycznych prowadzonych przez AI. Narzędzia analizujące twarz, głos albo język ciała w czasie wideorozmowy twierdzą, że potrafią ocenić „kulturowe dopasowanie” kandydata. Badacze od lat wskazują, że nie ma solidnych dowodów naukowych, by te wskaźniki cokolwiek mówiły o przyszłej skuteczności w pracy — oceniają za to wiarygodnie to, jak ktoś wygląda i mówi, czyli cechy niezwiązane z kompetencjami.
Prawo dogania technologię
Unia Europejska potraktowała rekrutacyjne AI jako jedną z najbardziej ryzykownych kategorii. Ustanowiony w 2024 roku AI Act zalicza systemy stosowane w zatrudnieniu — w tym do selekcji dokumentów aplikacyjnych, filtrowania podań i oceny kandydatów — do kategorii wysokiego ryzyka. To oznacza konkretne obowiązki po stronie dostawców i użytkowników: systemy muszą być zaprojektowane tak, by ograniczać ryzyko dyskryminacji, a ludzie muszą mieć realny, a nie tylko formalny nadzór nad decyzjami. Obowiązki wchodzą w życie etapami — zgodnie z obecnym harmonogramem kluczowe wymagania dla systemów wysokiego ryzyka mają obowiązywać od 2 sierpnia 2026 roku, czyli właśnie teraz, gdy firmy muszą zdecydować, czy ich narzędzia da się w ogóle dostosować do wymogów. Komisja Europejska prowadzi przy tym dyskusję o przesunięciu części terminów, co pokazuje, jak napięta jest ta harmonogramowa lina.
Pracodawcy w Polsce mają dodatkowo obowiązek wynikający z kodeksu pracy: zabronione jest dyskryminowanie w zatrudnieniu bez względu na to, czy decyzję podejmuje człowiek, czy system, który człowiek skonfigurował. Argument „to zdecydował algorytm” nie zwalnia z odpowiedzialności.
Co może zrobić kandydat
Kandydat rzadko widzi, jak działa system, który odrzucił jego podanie, ale kilka działań jest realnie dostępnych. Po pierwsze, warto pisać dokumenty aplikacyjne konkretnie i merytorycznie: nazwy stanowisk, umiejętności, mierzalne efekty. Systemy filtrowania często szukają dopasowania słów kluczowych do treści ogłoszenia — podanie ogólnikowe przegrywa z podaniem dopasowanym, niezależnie od rzeczywistych kompetencji. Po drugie, jeśli proces obejmuje wideorozmowę ocenianą przez algorytm, można zapytać o podstawę prawną takiego przetwarzania danych — od wejścia w życie AI Act firmy muszą informować pracowników i kandydatów o stosowaniu systemów wysokiego ryzyka. Po trzecie, podejrzenie dyskryminacji można zgłosić do Państwowej Inspekcji Pracy albo na drodze cywilnej — w sprawach o dyskryminację to na pracodawcy spoczywa ciężar udowodnienia, że nie naruszył zasady równego traktowania.
Coraz trudniej o człowieka po drugiej stronie
Rozwój agentów AI, które same wysyłają podania i rozmawiają z rekruterami, tworzy absurdalną sytuację opisaną już w branżowych mediach: algorytmy firm korespondują z algorytmami kandydatów, a człowiek okazuje się w tym procesie zbędny. Im dalej idzie ta automatyzacja, tym ważniejsze staje się pytanie nie o sprawność procesu, ale o to, kto ponosi odpowiedzialność za decyzje, które zmieniają ludzkie życie. Unijny ustawodawca odpowiedział: odpowiedzialność ponosi człowiek. Teraz kolej na to, by firmy to zrozumiały, zanim regulatorzy zaczną egzekwować przepisy drogami finansowymi.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
