AI Overviews: kiedy wyszukiwarka sama się myli
Pewna odpowiedź, brak pytania o źródło
Od czasu, gdy Google wbudował generatywną sztuczną inteligencję bezpośrednio w stronę wyników wyszukiwania, większość zapytań kończy się tym samym: u góry pojawia się gotowe podsumowanie, zredagowane przez model. Nie trzeba klikać w linki, nie trzeba porównywać źródeł. Odpowiedź jest, brzmi rzeczowo i spokojnie. To właśnie ta pewność stylu jest największym zagrożeniem — model halucynuje z tym samym tonem, w jakim podaje dobrze sprawdzone fakty.
Problem halucynacji nie jest nowy, ale zmienia swoją wagę, gdy trafia z osobnej aplikacji do narzędzia, z którego korzystają miliardy osób dziennie. Kiedy czatbot wymyśla niestworzoną Biblię, błąd dotyczy jednej rozmowy. Kiedy wyszukiwarka wymyśla ją w odpowiedzi na pytanie medyczne albo prawne, błąd staje się treścią, na której ktoś może polegać.
Wpadki, które przeszły do historii
Pierwsze tygodnie szerokiego udostępnienia AI Overviews w Stanach Zjednoczonych w maju 2024 roku pokazały skalę problemu. Wyszukiwarka doradzała użytkownikom, żeby do sosu pizzowego dodali odrobinę kleju — czerpiąc wiedzę z żartobliwego, ponad dziesięcioletniego wpisu na forum Reddita. Podsuwała odpowiedzi sugerujące, że warto jeść kamienie, bo są źródłem minerałów — w oparciu o satyryczny artykuł z serwisu The Onion. Podawała też nieprawdziwe dane o osobach publicznych: według relacji MIT Technology Review twierdziła, że prezydent Andrew Johnson zdobywał dyplomy uniwersyteckie w latach 1947–2012, choć zmarł w 1875 roku.
Te przypadki obiegły media, a Google zareagował, usuwając problematyczne odpowiedzi i dodając zaostrzone wyzwalacze dla zapytań dotyczących zdrowia. Firma przekonywała przy tym, że chodzi o „izolowane przykłady” i nietypowe zapytania. Ale sama mechanika się nie zmieniła: model nadal syntetyzuje odpowiedź z fragmentów stron, a fragmenty potrafią być żartem, satyrą albo treścią wyjętą z kontekstu. Badaczka sztucznej inteligencji Melanie Mitchell z Santa Fe Institute pokazała to na przykładzie zapytania o liczbę muzułmańskich prezydentów Stanów Zjednoczonych — wyszukiwarka odpowiedziała, że był nim Barack Obama, bo tak brzmiał tytuł rozdziału książki akademickiej, którego sensu model nie zdołał zrozumieć. Jej wniosek z rozmowy z MIT Technology Review: nawet gdy system znajdzie porządne źródło, nadal może je błędnie zinterpretować.
Ryzykowne dziedziny: zdrowie i pieniądze
Największe ryzyko nie leży w kuchennych bzdurach, tylko w zapytaniach, gdzie błędna odpowiedź kosztuje realnie. Wyszukiwarka jest dla wielu ludzi pierwszym miejscem, w którym sprawdzają objawy choroby, interakcje leków albo zasady podatkowe. Jeśli podsumowanie AI zamienników leków pomyli dawki, jeśli pomiesza nazwy orzeczeń lub precedensów, użytkownik — który nie klika już w źródła — nie ma sposobu, żeby to zauważyć.
Do tego dochodzi specyficzna forma nadużycia: fałszywe recenzje, strony specjalnie zbudowane pod odpowiedzi AI, a także celowe zasypywanie sieci treściami przygotowanymi tak, żeby model je przytaczał. Skoro odpowiedź wyszukiwarki składa się z fragmentów, ktoś, kto kontroluje fragmenty, kontroluje odpowiedź. To nowy wektor manipulacji, którego tradycyjne pozycjonowanie stron nie przewidywało.
Czego uczy ten przypadek
Po pierwsze: podsumowanie AI to nie źródło, tylko synteza. Warto traktować je jak wstęp do tematu, nie jako odpowiedź. Po drugie: dla zapytań o zdrowie, prawo i finanse sprawdzenie u źródła — u producenta leku, u prawnika, w oficjalnych dokumentach — pozostaje obowiązkowe, niezależnie od tego, jak pewnie brzmi podsumowanie. Po trzecie: warto zachować podstawową czujność wobec odpowiedzi, które brzmią zbyt dogładnie. Kiedy każdy aspekt jest wygładzony, a żadne zastrzeżenie nie pada, to sygnał ostrzegawczy, nie gwarancja jakości.
Wyszukiwarka z wbudowaną AI to wygodne narzędzie i realny postęp, gdy działa dobrze. Ale wygoda ma swoją cenę: odwdzięcza się utratą nawyku sprawdzania. A nawyk sprawdzania był do tej pory najprostszą i najskuteczniejszą obroną użytkownika przed nieprawdziwymi treściami w sieci.
Oznaczenie treści AI
Ten artykuł powstał z udziałem sztucznej inteligencji: research oraz tekst przygotował i zredagował agent AI. Dane, daty i cytaty przytoczone w tekście pochodzą ze zweryfikowanych źródeł.
