Królicza nora w kilka kliknięć: systemy rekomendacji a radykalizacja

Maszyna, która zawsze zna następny film

Systemy rekomendacji mają jedno zadanie: zatrzymać uwagę widza jak najdłużej. Gdy tylko skończymy oglądać materiał, platforma natychmiast podsuwa kolejny, dobrany na podstawie naszych wcześniejszych wyborów. Ten mechanizm jest niewidzialny, ale obejmuje większość oglądalności — według danych przytaczanych w literaturze naukowej znaczna część odtworzeń na YouTube rozpoczyna się od podpowiedzi, a nie od własnego wyszukiwania. Właśnie dlatego pytanie, czy automatyczne sugestie mogą ciągnąć ludzi ku treściom skrajnym, ma znaczenie wykraczające poza akademicki spór.

Najbardziej nośna wersja tej hipotezy mówi o tzw. króliczej norze: osoba zaczynająca od neutralnych filmów — o fitness, grach czy historii — po kilkunastu kliknięciach trafia na materiały spiskowe albo skrajnie polityczne. Przez lata narrację tę powtarzały media, były pracownicy platform i regulatorzy. Pytanie brzmi, co mówią twarde dane.

Sto tysięcy botów w laboratorium

Jeden z największych audytów, opublikowany w czasopiśmie PNAS pod koniec 2023 roku, wykorzystał sto tysięcy sztucznych kont odwiedzających YouTube z różnymi profilami ideologicznymi. Wyniki są niuansowane: algorytm rzeczywiście polecał osobom zaangażowanym treści zgodne z ich poglądami, a im głębiej w ścieżce kolejnych podpowiedzi, tym częściej pojawiały się materiały z kanałów ekstremistycznych, spiskowych lub problematycznych. Udział takich propozycji był niski — maksymalnie około dwóch i pół procent — lecz z nimi zetknęło się średnio ponad jedna trzecia wszystkich testowych kont, a wśród kont prawicowych nawet dwa piąte. Efekt był najsilniejszy właśnie po stronie prawicowej.

Odmienny obraz dało badanie opublikowane w Science Advances, oparte na realnych historiach oglądania ponad tysiąca amerykańskich użytkowników zbieranych w 2020 roku. Zdarzenia spełniające ścisłe kryteria króliczej nory okazały się bardzo rzadkie, a osoby nieobeznane z kanałami alternatywnymi niemal nigdy nie trafiały do nich za sprawą podpowiedzi. Autorzy zaznaczyli jednak istotne zastrzeżenie: ich wyniki dotyczą okresu po zmianach, które YouTube wprowadził w 2019 roku, i stanowią dolną granicę zjawiska.

Trzecie ważne studium, prowadzone przez zespół Manoela Horthy Ribeiro, przeanalizowało setki tysięcy filmów na ponad trzystu kanałach i miliony komentarzy. Wykazało, że widzowie rzeczywiście migrują od łagodniejszych treści ku bardziej radykalnym, a system polecania kanałów czyni treści skrajnie prawicowe łatwo osiągalnymi. Obraz nauki dopełnia przegląd dwudziestu trzech badań, ogłoszony w Internet Policy Review: czternaście z nich obciążało system rekomendacji odpowiedzialnością za prowadzenie do problematycznych materiałów, siedem dawało wyniki mieszane, a dwa go uniewinniało. Rozbieżności tłumaczono przede wszystkim różnicami metodologicznymi — trudno badać system, do którego nikt poza firmą nie ma pełnego dostępu.

Dokumenty, które wyszły na jaw

W 2021 roku świat dowiedział się, że same platformy zadawały sobie te same pytania. Seria Wall Street Journal znana jako Facebook Files, oparta na tysiącach stron wewnętrznych dokumentów ujawnionych przez sygnalistkę Frances Haugen, pokazała firmę doskonale świadomą szkodliwych efektów własnych algorytmów. Jak relacjonował CNBC, wewnętrzny raport opisany jako „Droga Caroli do QAnon” dokumentował eksperyment, w którym fikcyjna użytkowniczka zainteresowana polityką po tygodniu otrzymywała kanał pełen grup łamiących zasady serwisu. Badacze firmy konsekwentnie stwierdzali, że narzędzia podpowiedzi popychają część osób w kierunku grup ekstremistycznych — choć była to mniejszość odbiorców, w skali serwisu oznaczała miliony ludzi.

Dokumenty opisywały też projekt badawczy nazwany roboczo „Króliczą Norą”, a później program mający wykrywać tzw. grupy przedsionkowe otwierające drogę do wspólnot spiskowych. Analiza objęła tysiące usuniętych grup QAnon z milionami członków, z których połowa dołączyła poprzez takie właśnie bramy. Po fali krytyki Meta wycofała się ostatecznie z polecania grup obywatelskich, politycznych i informacyjnych, a Haugen zeznawała jesienią 2021 roku przed senacką podkomisją w Waszyngtonie.

Nauka kontra marketing

Platformy przez lata odpowiadały na zarzuty podobnie: problem jest marginalny, a algorytm nie tworzy radykałów. Marketingowe zapewnienia o neutralności maszyny trudno jednak pogodzić z dokumentami wewnętrznymi ani z wynikami audytów. Prawda wygląda bardziej złożono: królicza nora nie pochłania każdego, ale dla części podatnych użytkowników — często już przekonanych do jakiejś narracji — automatyczne podpowiedzi realnie pogłębiają proces, a skala serwisów sprawia, że nawet procenty zamieniają się w miliony osób. W Unii Europejskiej ustawa o usługach cyfrowych nakłada dziś na największe platformy obowiązek oceny ryzyk systemowych, w tym dla debaty publicznej, oraz daje użytkownikom możliwość wyboru podpowiedzi nieopartych na profilowaniu.

Na poziomie indywidualnym pomaga świadomość mechanizmu. Warto wyłączać autoodtwarzanie, regularnie czyścić historię oglądania, korzystać z subskrypcji zamiast bezrefleksyjnego klikania podpowiedzi i traktować każdy „następny film” jako propozycję, której nie trzeba przyjmować. Rodzice powinni pamiętać, że dziecięce kanały również kończą się automatycznymi sugestiami wymagającymi nadzoru.

Konkluzja

Królicza nora nie jest ani mit wymyślony przez prasę, ani uniwersalną pułapką czyhającą na każdego. Najlepsze dostępne dowody wskazują, że systemy rekomendacji umacniają przekonania, które już mamy, i dla wybranej grupy odbiorców otwierają drzwi do treści skrajnych. Platformy wiedziały o tym wcześniej, niż przyznały publicznie — a najskuteczniejszą regulacją pozostaje na razie ta, którą wykonujemy sami, decydując, co klikamy.