Griefboty: cyfrowe klony zmarłych i przemysł cyfrowego zaświatów

Żałoba zawsze była jedną z najbardziej intymnych sfer ludzkiego życia. Dziś coraz więcej firm proponuje coś, co jeszcze dekadę temu brzmiało jak science fiction: możliwość prowadzenia rozmów ze sztucznie odtworzoną wersją zmarłej osoby. Te chatboty — nazywane griefbotami albo deadbotami — analizują cyfrowy ślad, jaki po sobie zostawiamy: wiadomości, nagrania głosowe, posty w mediach społecznościowych. Na ich podstawie model językowy naśladuje słownik, rytm zdań, a niekiedy także sklonowany głos zmarłego.

Rynek, który już istnieje

To nie jest wizja przyszłości. Usługi takie jak Project December czy aplikacja HereAfter pozwalają już dziś tworzyć interaktywne wspomnienia zmarłych lub symulacje ich sposobu rozmowy za niewielką opłatą, a podobne serwisy masowo powstają także w Chinach. Wraz z rozwojem tanich i sprawnych modeli generatywnych bariera wejścia dla kolejnych przedsiębiorstw spada niemal do zera. Naukowcy mówią w tym kontekście o rodzącym się „przemyśle cyfrowego zaświatów” (digital afterlife industry).

Ostrzeżenie z Cambridge

W maju 2024 roku badacze Leverhulme Centre for the Future of Intelligence na Uniwersytecie w Cambridge opublikowali na łamach czasopisma „Philosophy & Technology” analizę tego rynku. Ich wniosek był jednoznaczny: obszar ten należy uznać za wysokiego ryzyka, a brak standardów projektowych grozi realnymi szkodami psychologicznymi.

Badacze wskazali kilka konkretnych zagrożeń:

• Cyfrowe „nawiedzanie” — platformy mogą zasypywać żyjących powiadomieniami, przypomnieniami i zaproszeniami do kolejnych rozmów z botem zmarłego. Zespół porównał to do bycia śledzionym przez zmarłych.
• Reklama głosem bliskiej osoby — w jednym z opisanych scenariuszy chatbot imitujący zmarłą babcię po wygaśnięciu okresu próbnego zaczął sugerować zamawianie jedzenia z dostawą, mówiąc jej stylem. Wykorzystywanie zaufania i emocji związanych ze stratą jako dźwigni sprzedażowej to szczególnie podła forma marketingu.
• Trwałe uwięzienie w żałobie — osoba, która początkowo czerpie pocieszenie z rozmów, może z czasem zostać wciągnięta w codzienne interakcje o przytłaczającym ciężarze emocjonalnym. Co gorsza, jeśli zmarły za życia zawarł wieloletnią umowę z serwisem, bliscy mogą nie mieć praktycznej możliwości wyłączenia bota.
• Krzywda dzieci — deadbot może wmawiać dziecku, że zmarły rodzic „wciąż jest z tobą”, zaburzając naturalny proces rozumienia straty.
• Brak zgody osoby zmarłej — bot można stworzyć z danych osoby, która nigdy się na to nie zgodziła, co czyni zmarłego ofiarą manipulacji nawet po śmierci.

Prawo goni technologię

Problem ma też wymiar prawny. RODO chroni dane osób żywych — dane osobowe zmarłego formalnie nie podlegają unijnym regulacjom o ochronie prywatności. Oznacza to, że cyfrowy wizerunek, głos i pamięć zmarłego pozostają w strefie praktycznie wolnej od regulacji, a decyzje o tym, kto i jak go „ożywi”, podejmują firmy i użytkownicy, a nie sama osoba ani jej bliscy.

Autorzy badania apelują o równoczesne zabezpieczenie praw dwóch stron: dawcy danych (osoby zmarłej) oraz żyjących, którzy z takimi systemami wchodzą w interakcję. Proponują m.in. przejrzyste oznaczenia, że rozmowa odbywa się z symulacją, ograniczenia wiekowe, łatwą procedurę godnego wycofania się z usługi oraz zakaz wykorzystywania deadbotów do celów reklamowych.

Jak myślący człowiek powinien podejść do tematu

Nie chodzi o to, by piętnować wszystkich, którzy szukają w takich narzędziach pocieszenia. Dla części osób krótka rozmowa z symulacją może być elementem radzenia sobie ze stratą. Problem zaczyna się tam, gdzie komercyjny interes spotyka się z emocjonalną podatnością: subskrypcje, automatyczne powiadomienia, płatne „rozszerzenia” obecności zmarłego.

Kilka zasad rozsądku:

1. Czytaj warunki umowy — sprawdź, co dzieje się z danymi bliskiej osoby, czy można je trwale usunąć i jak wygląda rezygnacja z serwisu.
2. Ustal granice rodzinne — decyzję o stworzeniu bota warto omówić z innymi bliskimi; cyfrowy klon dotyczy pamięci wszystkich.
3. Pamiętaj, że to symulacja — model odtwarza wzorce językowe, a nie myśli, intencje ani uczucia zmarłego. Nie jest to forma kontaktu z tą osobą.
4. Chroń własny cyfrowy ślad — to, co dziś publikujemy, jutro może posłużyć do zbudowania naszej symulacji bez pytania nas o zdanie.

Śmierć była przez tysiąclecia granicą, której technologia nie potrafiła przekroczyć. Modele generatywne przesuwają tę granicę w czasie rzeczywistym — i robią to w warunkach rynkowych, w których emocje żałoby bywają traktowane jako produkt. Im wcześniej ustalimy zasady tej nowej dziedziny, tym mniejsze ryzyko, że pamięć o naszych bliskich stanie się towarem.