Cyfrowe linie segregacji: dyskryminacja w reklamowaniu mieszkań i pracy

W amerykańskiej historii „redlining” oznaczał rysowanie czerwonych linii na mapach miast — dzielnic, do których banki nie chciały kierować kredytów, a pośrednicy mieszkań. Ta praktyka jest od dawna nielegalna, ale jej cyfrowa wnuczka okazała się znacznie trudniejsza do wykrycia: nie potrzebuje map ani deklarowanej wrogości. Wystarczy algorytm reklamowy, który sam z siebie nauczy się, komu pokazywać ogłoszenie o pracy czy mieszkaniu, a komu go niepokazywać.

Jak algorytm segreguje bez złej woli

Platformy społecznościowe sprzedają reklamodawcom precyzyjne targetowanie: wybierasz grupę odbiorców, a system decyduje, kto faktycznie zobaczy komunikat. Problem w tym, że ta druga decyzja zapada w czarnym skrzynce zoptymalizowanym pod klikalność i koszt, a nie pod równość szans. Zespół badaczy z Northeastern University we współpracy z organizacją Upturn udowodnił w badaniu opublikowanym w 2019 roku, że dostarczanie reklam na Facebooku jest systematycznie przekrzywione ze względu na płeć i rasę — nawet gdy reklamodawca ustawi parametry całkowicie neutralnie.

Skala była uderzająca. Ogłoszenia o pracy przy drzewie docierały do widowni w ponad 90 procentach męskiej i w trzech czwartych białej, ogłoszenia o kasie w supermarkecie — w 85 procentach do kobiet, a oferty pracy w taksówkarce — w 75 procentach do osób czarnoskórych. Reklamy domów na sprzedaż trafiały częściej do białych użytkowników, ogłoszenia o wynajmie — do mniejszości. Zmiana samego zdjęcia w identycznym ogłoszeniu potrafiła przestawić widownię niemal całkowicie.

Regulatorzy wchodzą do gry

Problem nie był tajemnicą. Już w 2016 roku portal ProPublica wykazał, że Facebook pozwalał reklamodawcom mieszkań wykluczać Afroamerykanów z widowni ogłoszeń. Po interwencjach platforma ograniczyła opcje targetowania, ale — jak pokazali badacze z Northeastern testujący nowy specjalny portal reklamowy — przekrzywienie przeniosło się z ustawień reklamodawcy na mechanizm dostarczania.

Sprawę przejęły urzędy. Departament Mieszkalnictwa i Rozwoju Miast (HUD) wszczął postępowanie administracyjne wobec Facebooka w sierpniu 2018 roku, a w marcu 2019 roku wydał zarzut dyskryminacji — pierwszy taki przypadek dotyczący algorytmicznej stronniczości na gruncie ustawy o sprawiedliwych mieszkaniach. Kulminacją była ugoda zawarta 21 czerwca 2022 roku między Metą a Departamentem Sprawiedliwości. Firma, nie przyznając się do naruszeń, zgodziła się zapłacić karę 115 054 dolarów — maksymalną dopuszczalną w tamtym momencie — wycofać do końca roku narzędzie „Special Ad Audience” i zbudować nowy system redukcji rozbieżności, który ma sprawiać, że rzeczywista widownia reklamy mieszkaniowej będzie odpowiadać demografii grupy uprawnionej. Meta rozszerzyła te zmiany także na reklamy pracy i kredytów, a nad wdrożeniem czuwa niezależny recenzent publikujący cykliczne raporty dla sądu.

Dlaczego to boli realnie

Może się wydawać, że kto nie widzi ogłoszenia, ten nic nie traci — przecież innych ofert jest mnóstwo. To złudzenie. Rynek pracy i mieszkaniowy działa dziś przede wszystkim online: o tym, kto dowie się o etacie, stażu czy nowym osiedlu, decyduje dystrybucja reklamowa. Osoba systematycznie pomijana przez algorytm traci dostęp do informacji, które inni otrzymują za darmo — i robi to niewidzialnie, bo nie wie, że czegoś nie zobaczyła. Skumulowana w latach, taka utrata okazji odtwarza stare struktury segregacji bez żadnej czerwonej linii na mapie.

Stan ochrony i co może zrobić obywatel

Po stronie prawa najważniejsze pozostają amerykańskie precedensy: ugoda DOJ–Meta i wcześniejsze porozumienia z organizacjami praw obywatelskich. W Europie analogiczne praktyki da się zwalczać przez prawo antydyskryminacyjne oraz RODO — profilowanie w sposób ujawniający cechy chronione jest szczególnie rygorystycznie ograniczone. Platformy stopniowo wprowadzają własne ograniczenia: zakaz targetowania ze względu na płeć czy kod pocztowy w reklamach mieszkań, minimalne promienie lokalizacji, publiczne biblioteki reklam.

Indywidualnie można sprawdzać biblioteki reklam, które największe platformy udostępniają publicznie — widać w nich, komu dane ogłoszenie było wyświetlane. Organizacje zajmujące się prawami konsumenta i testerzy dyskryminacji przyjmują zgłoszenia podejrzanych praktyk, a los śledztwa ProPublicy, które zapoczątkowało całe postępowanie HUD, pokazuje że nagłośnienie nadal działa.

Konkluzja jest jednoznaczna: dyskryminacja nie potrzebowała już nikogo, kto chciałby dyskryminować. Wystarczyła optymalizacja. Nadzór regulatorów i badaczy musi być więc stały, bo algorytmy wracają do starych wzorców tak długo, jak ktoś nie mierzy ich wyników.