AI a wolność słowa: cenzura algorytmiczna na platformach cyfrowych
Kasowanie wypoconych palców
Na platformach społecznościowych treść którą widzimy zależy od algorytmów moderacyjnych. Facebook, YouTube, TikTok i inni najwięksi operatorzy platform cyfrowych zatrudniają modele sztucznej inteligencji, które oceniają nasze posty zanim ktokolwiek z ludzi je zobaczy. Decyzja o tym, czy nasz post jest spamem, mową nienawiści, dezinformacją lub treścią nieodpowiednią podejmowana jest w milisekundach przez modele uczone na milionach przykładów.
To wydaje się korzystne. Model jest szybki, bezstronny (a przynajmniej mniej stronniczy niż moderacja ludzka) i może przetworzyć miliardy postów dziennie. Problem w tym, że te same algorytmy kasują treści, które nie łamią żadnych zasad, ale algorytm uznał je za naruszenie, bo tak go nauczono. Skutek jest doskonale znany: uciszanie niepopularnych opinii, usuwanie relacji świadków z miejsc konfliktów i shadowbanning twórców, którzy nie wiedzą dlaczego nagle przestali istnieć.
Błędne przekonanie o neutralności
Naiwne jest przekonanie, że algorytmy są neutralne. Nie ma takiej rzeczy. Model uczy się na danych oznaczonych przez ludzi, a ludzie mają uprzedzenia, priorytety polityczne i komercyjne. Zbiór treści uznanych za spam lub mowę nienawiści tworzy zespół certyfikatorów firmy, a ten zespół ma kulturowo i politycznie określone priorytety. Mówienie więc, że algorytmy są neutralne, jest jak twierdzenie, że sędzia jest neutralny bo nosi togę — nie, jest człowiekiem.
W 2024 roku model uczonej na platformie Meta oznaczano kasować posty zawierające słowo “queer” w kontekście neutralnym. Treści edukacyjne o tematyce ochrony zdrowia były interpretowane jako naruszenie, podczas gdy faktycznie atakujące posty nie były usuwane. Komisja Europejska wkroczyła do akcji, ale wpierw wpływ platformy objął miesiące, a inne platformy kopiowały to samo podejście.
Nieprzezroczystość decyzji
Użytkownik, którego post zostaje usunięty, otrzymuje z reguły automatyczną wiadomość. Nie wie, który fragment posta złamał regulamin, nie wie, który zespół moderatorów podjął decyzję i czy decyzja była podejmowana przez człowieka czy przez model. Nie ma prawa odwołania się do kogoś, kto przejrzy treść. Nie ma sądu, nie ma arbitraż.
Brak przezroczystości tworzy system, w którym decyzje o wolności słowa podejmuje niewidzialna instytucja. To nie jest opresja państwa — to opresja platformy. Państwo przynajmniej można zmienić. Platformę można tylko opuścić.
Jak daleko da się zajść?
Gdyby algorytmy cenzurujące były tylko usuwające posty, rzecz byłaby prosta. Ale one także deplatformują twórców — całkowicie usuwają konta, derankingują treści — obniżają ich zasięg do niemal zerowego poziomu, demonetyzują — odmawiając twórcom zarobku na reklamach. To wszystko dzieje się automatycznie. Konto użytkownika, które nagle nie spełnia warunków monetyzacji i nie dostaje wyjaśnienia, jakie treści naruszyły zasady. To nie jest teoria. Tysiące twórców notuje ten problem od lat.
Co można zrobić?
Najważniejsze rozwiązanie to wymóg od platform transparentności decyzji algorytmicznych. Użytkownik ma wiedzieć, która treść złamała zasady, na jakiej podstawie i kto podejmuje decyzję. Drugim krokiem jest prawo odwołania się do człowieka. Trzecim jest obowiązek publikacji corocznych raportów o skali i skutkach działania algorytmów moderacyjnych.
Unijny Akt o Służbach Cyfrowych (DSA) jest krokiem w dobrym kierunku, bo wymusza coroczne audyty algorytmów. Ale audyt bez prawa odwołania się do człowieka jest jak audyt sądu bez prawa apelacji. To dokumentacja błędu, nie jego naprawa.
Konkluzja
Cenzura algorytmiczna to nowa forma ograniczania wolności słowa. Nie nazywa się cenzurą, nazywa się “moderacją treści”. Nie prowadzi jej państwo, prowadzą ją korporacje. I nie pada odważna opinia o tym, czy to jest konieczne czy nie — boimy się dyskusji o tym, czy koszt jest zbyt wysoki. Zanim więc usłyszysz “to jest regulacja, nie cenzura” — zastanów się, kto reguluje i czy masz prawo odwołać się od decyzji. Bo jeśli nie masz — to jest cenzura, niezależnie od nazwy.