Cyfrowe duchy: sztuczna inteligencja wkracza w dziedzinę pamięci o zmarłych

Każdy z nas przechowuje pamiątki po ludziach, których w naszym życiu już nie ma. Zapisane numery telefonów, które już do nas nie zadzwonią. Wiadomości na Facebooku. Zdjęcia, bibeloty, ręcznie zapisane skrawki papieru. Każdemu chyba zdarzało się, patrząc na te osobiste relikwie, rozmawiać z tymi, którzy odeszli. Opowiadać, szukać rady czy pocieszenia.

Cyfrowe pamiątki po zmarłych

A co, gdyby zmarli mogli na te pytania odpowiedzieć? Nie metaforycznie, ale całkiem realnie. Odpisać na wiadomość, odebrać połączenie wideo?

To już nie fantastyka, przynajmniej niezupełnie. Cały szereg firm, korzystając z osiągnięć sztucznej inteligencji, oferuje usługi pozwalające na tworzenie wirtualnych awatarów, reprezentujących to, co pozostawili po sobie zmarli. To dostawcy „wirtualnej nieśmiertelności”. Ich branża, która rozkwitła w cieniu globalnej pandemii, rozwija się w błyskawicznym tempie. Co każe zadać sobie pytanie; czym jest żałoba w cyfrowym świecie, w którym zmarli nigdy do końca nie odchodzą?

Zlecenie na cyfrowego ducha: babcia się nie zorientowała

Pani Yang niczego nie podejrzewała. 93-letniej staruszce było zapewne smutno, kiedy jej syn kilka razy z rzędu przepraszał ją, że nie będzie w stanie dotrzeć do domu na kolejne święta, w tym nawet na chiński Nowy Rok. Ale rodzina, rozrzucona po całych Chinach, od dawna miała problemy z zebraniem się w jednym miejscu.

Starsza pani nie wiedziała jednak, że jej syn nigdy już nie przyjedzie na święta, bo kilka miesięcy przed pierwszą z rozmów zginął w wypadku na budowie. Rozmawiała nie z żywym człowiekiem, lecz z duchem. Cyfrową repliką, stworzoną przez firmę Super Brain na zlecenie wnucząt, które martwiły się, co informacja o śmierci syna może zrobić schorowanej kobiecie.

„Efekt przeszedł moje najśmielsze oczekiwania, babcia niczego nie podejrzewała” – mówi w rozmowie z „MIT Technology Review” wnuk kobiety, Jonathan, który był pomysłodawcą intrygi. Stworzenie realistycznej, cyfrowej repliki wujka kosztowało go 1350 dolarów. Głosu zmarłemu użyczył jeden z pracowników Super Brain. Babcia nie zauważyła różnicy.

Pośmiertny przemysł cyfrowy: branża warta 100 miliardów dolarów

Wprowadzanie w błąd seniorów – nawet w najszczytniejszym celu – jest moralnie wątpliwe. Ale to tylko jedno z zastosowań nowego przemysłu, który przeżywa gwałtowny rozwój w Chinach i coraz śmielej szuka też klientów w krajach zachodnich.

– Mamy termin, który to dobrze opisuje. Mówimy o tzw. digital afterlife industry, czyli pośmiertnym przemyśle cyfrowym – mówi „Tygodnikowi” dr Katarzyna Nowaczyk-Basińska z Leverhulme Center for the Future of Intelligence na Uniwersytecie Cambridge, która opublikowała niedawno pracę poświęconą „cyfrowej nieśmiertelności”.  – Od blisko dekady obserwujemy szybki rozwój tych technologii, a pojawienie się generatywnej sztucznej inteligencji, takiej jak ChatGPT, sprawiło, że coś, co kiedyś było dostępne dla stosunkowo nielicznych, dziś jest osiągalne dla wielu ludzi.

Branża, której globalną wartość już dziś szacuje się na przeszło 100 miliardów dolarów, wyrosła w cieniu pandemii. W większości przypadków oferowane przez nią usługi polegają na tworzeniu, na zamówienie pogrążonej w żałobie rodziny, lub czasem samych przygotowujących się na odejście, cyfrowych awatarów, które pozwalają rodzinie i przyjaciołom „pozostawać w kontakcie” ze zmarłym nawet długo po jego odejściu. Cyfrowych duchów, nazywanych deadbotami, griefbotami czy „replikami AI”.

– Jak przekonują nas firmy komercyjne, takie jak np. HereAfter, pośmiertny awatar może być traktowany jako prezent od nas dla naszej rodziny, a może nawet dla przyszłych pokoleń – tłumaczy dr Nowaczyk-Basińska. – W tym pomyśle jest pewnie coś egoistycznego, to znaczy przekonanie, że jestem tak ważny, iż muszę zadbać o kontynuację swojego życia w formie cyfrowej. Ale ten egoizm przyjmuje także inne odcienie i wiąże się np. z konkretnymi kosztami środowiskowymi. Wbrew pozorom, tworzenie cyfrowej nieśmiertelności to nie jest czysto metafizyczny akt. Wręcz przeciwnie – wymaga on konkretnych zasobów, w tym wody, energii itd. Powinniśmy więc dobrze przemyśleć, jakie prezenty chcemy po sobie pozostawiać dla przyszłych pokoleń.

Telekonferencja ze zmarłym: jak działa griefbot

Technologia, na której opiera się większość z tych rozwiązań, zbliżona jest do tej stosowanej w czatbotach, takich jak ChatGPT. Model jest szkolony na tekstach pozostawionych przez odchodzącego: zapisach czatów, e-mailach, czasami pamiętnikach. Na ich podstawie tworzona jest wirtualna reprezentacja osoby, która, w założeniu, ma mieć dostęp do jej wiedzy, odwzorowywać jej językowe manieryzmy i osobowość.

Bardziej rozbudowane rozwiązania oferują do tego warstwę audiowizualną. Stworzone na bazie zdjęć i nagrań wizualne reprezentacje zmarłych. Rozmowa z takim botem ma przypominać rozmawianie ze zmarłym za pomocą komunikatora wideo. Usługa kosztuje od kilkuset do kilkunastu tysięcy dolarów.

– Ta iluzja, ta symulacja, jest naprawdę bardzo immersyjna i wciągająca. Sprawia wrażenie, że rzeczywiście rozmawiamy z konkretną osobą – mówi polska badaczka. – Ale to jest tylko symulacja.

Taka „nieśmiertelność” jest, rzecz jasna, bardzo jednostronna. Bot nie ma świadomości, nie ma prawdziwej osobowości, jest jedynie interpretacją, bardziej czy mniej udaną, dokonaną przez zimne algorytmy. Nie ma gwarancji, że zachowa się tak, jak postąpiłaby symulowana osoba. Ale wpływ, jaki może wywierać na żywych, jest niezaprzeczalny. I niejednoznaczny.

Historia życia własnymi słowami: nowa forma cyfrowych archiwów?

Zwolennicy nowej technologii podkreślają, że może ona dać coś więcej, niż tylko stanowić interaktywną pamiątkę po zmarłym. Ma pomagać w łagodzeniu procesu żałoby, dając okazję na zadanie tych kilku pytań, których nie zdołaliśmy zadać za życia. Fakt, że odpowiedzi nie będą płynęły z ust żywego człowieka, lecz z przetworzonej przez sztuczną inteligencję bazy danych zbudowanej na zapiskach, może – ale nie musi – mieć tutaj znaczenia.

Griefboty mogą też pomóc przekazywać następnym pokoleniom wiedzę i doświadczenia, których nie zdołaliśmy przekazać za życia. Jednym z fundamentalnych ludzkich doświadczeń jest w końcu przeglądanie pamiątek po zmarłym i dochodzenie do wniosku, że tak naprawdę niemal nic nie wiedzieliśmy o jego życiu. Boty, zwłaszcza jeśli są tworzone jeszcze za życia symulowanej osoby i z jej udziałem, dają jej szansę opowiedzenia swej historii własnymi słowami.

– Myślę, że symulacje mogłyby się przyczynić do rozwoju nowych form międzypokoleniowej wymiany doświadczeń czy historii, stanowiąc nową formę interaktywnych archiwów – podkreśla dr Nowaczyk-Basińska. – Musimy jednak zawsze pamiętać, że mamy do czynienia wyłącznie z wyobrażeniem tego, co dana osoba by powiedziała, jak zareagowałaby na konkretną sytuację czy informację.

Cyfrowe duchy mogą być też złymi duchami

Pytaniem, które pozostaje na razie bez odpowiedzi, jest jednak to, jak podobne technologie wpłyną na nasz naturalny proces przepracowywania żałoby. Prof. Michael Grodin, psychiatra z Boston University, przestrzega, że technologie symulujące komunikację ze zmarłymi mogą „wzmacniać fantazje, że oni nadal żyją” i utrudniać żałobnikom oddzielenie wspomnień od rzeczywistości. Wdowa czy wdowiec, która stale „rozmawia” ze zmarłym partnerem, może mieć trudności z powrotem do świata żywych. Z drugiej strony, osoba, która doświadczyła krzywdy z rąk zmarłego, może w kontakcie z jego cyfrowym awatarem doświadczyć ponownej traumy. Cyfrowe duchy mogą być też złymi duchami.

Potencjalnych zagrożeń jest jednak więcej i nie ograniczają się tylko do naszej psychiki. Pierwszym z nich jest potencjalne naruszenie godności i prywatności samego zmarłego. Udający go model językowy, wyszkolony na jego zapiskach czy rozmowach, potencjalnie może zawierać sekrety, którymi zmarły nie chciałby się dzielić nawet z rodziną: opinie o przyjaciołach i bliskich, poglądy na kontrowersyjne tematy, zdrady czy inne niemoralne, nieetyczne czy niezgodne z prawem uczynki. Co więcej, jak każdy model językowy, może takie „sekrety” halucynować, czyli po prostu zmyślać. Awatar, który powinien w założeniach być celebracją czyjegoś życia, mógłby zrujnować wizerunek takiej osoby, gdy ona już nie może się bronić.

Technologię tę można też wykorzystać do manipulowania żywymi. Dr Nowaczyk-Basińska wraz z dr. Tomaszem Hollankiem opublikowali w maju tego roku artykuł, który wylicza kilka możliwych scenariuszy, w których griefboty powodują więcej szkód niż korzyści.

– Proszę sobie wyobrazić na przykład, co wydaje mi się bardzo możliwym scenariuszem, że wizerunki naszych zmarłych będą wykorzystywane w celach podstępnego lokowania produktów – mówi dr Nowaczyk-Basińska. – Rozmawiamy sobie np. z babcią o naszej przeszłości, o wspaniałych niedzielnych obiadach, i pytamy o przepis na jakąś potrawę. Babcia-bot oczywiście bardzo chętnie nam ten przepis podaje, ale jednocześnie mówi, że do jej przyrządzenia doskonale nadaje się konkretny mikser i podsyła link, gdzie można go kupić. To może brzmieć dzisiaj zabawnie, ale jeśli tylko firmy komercyjne zobaczą w takim działaniu potencjał finansowy, na pewno się na nie zdecydują – komentuje badaczka.

Griefbot pod rygorem: jak zapanować nad sztuczną inteligencją

Media społecznościowe i internetowe wyszukiwarki już dziś gromadzą ogromne bazy danych na nasz temat. Czy na pewno chcemy dawać im także dostęp do najbardziej intymnych rozmów z naszymi nieobecnymi już bliskimi, tylko po to, by przekonać się, że treść tych rozmów jest wykorzystywana do sprzedawania nam kolejnych produktów?

I czy chcemy, by kontakt z nimi miały dzieci, zwłaszcza najmłodsze, które mogą mieć problem z odróżnieniem symulacji od realnego świata, zrozumieniem, dlaczego babci nie da się już przytulić, choć wciąż można do niej zadzwonić?

Polscy badacze podkreślają, że konieczne jest szybkie uregulowanie tego zjawiska, bo potencjalne zagrożenia są zbyt poważne, byśmy mogli pozwolić sobie na zignorowanie problemu. „Zalecamy wdrożenie protokołów gwarantujących, że deadboty nie będą wykorzystywane w taki sposób, by pozbawiać szacunku czy godności osoby zmarłe, na przykład pojawiając się w reklamach, czy do prowadzenia aktywnych profili w mediach społecznościowych” – pisze dr Hollanek. – „Kluczowe jest, by firmy zapewniające cyfrowe usługi pośmiertne brały pod uwagę prawa i zgody nie tylko osób, których wizerunki odtwarzają, ale także tych, którzy będą wchodzili z takimi symulacjami w interakcje”.

Kłopotliwe cyfrowe szczątki

Nawet bez cyfrowych duchów internet zmienił to, jak przeżywamy żałobę – bo zmarli, pod postacią kont w mediach społecznościowych czy nawet wieloletnich archiwów prowadzonych z nimi rozmów, są stale obecni. Ale zmienił coś jeszcze. Sprawił, że także proces godzenia się z własną śmiertelnością, nigdy niełatwy, stał się jeszcze bardziej złożony. Bo jak, nawet mając pełną świadomość zbliżającego się końca, ogarnąć gąszcz tożsamości, kont, wizerunków, które tworzyliśmy za życia w sieci? 

Nikt z nas nie prowadzi dziś jednego, cyfrowego życia, a często prowadzi się nawet dziesiątki czy setki żyć równoległych – na różnych serwisach, serwerach i feedach. Pozostawiamy po sobie profile, zdjęcia, wpisy, tweety. Na samym Facebooku aktywnych jest ponad 30 milionów kont osób zmarłych.

Ogarnięcie wszystkich swoich tożsamości przed nadejściem końca może okazać się wyzwaniem zbyt wielkim dla jednego człowieka. – Bardzo trudno się za to zabrać w pojedynkę, ale też nie za bardzo jest do kogo udać się z prośbą o pomoc – przyznaje dr Nowaczyk-Basińska. – Jednym z kierunków rozwoju, którego jestem wielką zwolenniczką, jest rozwój nowych profesjonalistów w tym obszarze, których zbiorczo nazywam „liderami cyfrowego życia po śmierci”. Wyobrażam sobie, że w niedalekiej przyszłości tacy właśnie profesjonaliści: z doświadczeniem pracy na styku nowych technologii, psychologii, prawa i etyki, będą nam potrafili doradzić, co trzeba zrobić, by na przykład zniknąć z sieci po śmierci.

A co, jeśli będziemy chcieli, by zniknął także nasz wirtualny zmarły? Co, jeśli uznamy, że dalsze rozmowy z symulacją kogoś bliskiego już nie pomagają, nie przynoszą ukojenia i czas się z nimi ostatecznie pożegnać? To może się okazać o wiele trudniejsze niż proste odinstalowanie aplikacji. Jeśli odczuwamy emocjonalną więź z prostym zdjęciem czy kilkoma emotikonami wysłanymi kiedyś na WhatsAppie, czy pożegnanie z programem, który mówi, brzmi i wygląda jak ktoś dla nas ważny, nie będzie o wiele rzędów wielkości trudniejsze?

Drugie pożegnanie: gdy nasze ślady cyfrowe nas przeżyją

– Z jednej strony wiemy, że to jest tylko technologia i że język nie powinien w ogóle nam grzęznąć w gardle, ale z drugiej strony nie jest to takie oczywiste – mówi badaczka. – Mamy już termin, który pojawił się całkiem niedawno, na określenie tego dziwnego stanu. Jego autorem jest Patrick Stokes, australijski filozof, który mówi o zjawisku second loss, czyli powtórnej straty. Najpierw tracimy kogoś fizycznie, a potem, na przykład przez plajtę firmy, która przechowywała w chmurze nasze rozmowy czy zdjęcia, tracimy dostęp do naszej historii. Są już badania (np. Debry Basset), które pokazują, że rzeczywiście ludzie odczuwają tę powtórną stratę, kiedy w nieoczekiwany sposób utracą dane należące do osoby zmarłej.

Dr Tomasz Hollanek pisze wręcz o tym, że dla takiego cyfrowego „powtórnego odejścia” potrzeba zupełnie nowych form pożegnania: „Powinniśmy rozważyć metody, a nawet rytuały powiązane z wyłączaniem deadbotów w sposób godny. Może to oznaczać formę cyfrowego pogrzebu lub inną ceremonię, zależną od kontekstu społecznego”.

Rytuały towarzyszące śmierci są starsze niż nasz własny gatunek. Swoich zmarłych żegnali i neandertalczycy, i maleńcy Homo naledi. Przez setki tysięcy lat ostateczne pożegnanie zmarłego miało dawać ukojenie, ale też definitywnie zamykać pewien etap naszego własnego życia. Kiedyś było łatwiej.

Dziś, w cyfrowym świecie, życie i śmierć przeplatają się w sposób, jakiego nie doświadczaliśmy nigdy wcześniej. To, co pozostawiamy po sobie w sieci, może żyć dłużej niż my sami, być zapisane na serwerach i dostępne dla przyszłych pokoleń. Technologia już dziś zaczyna definiować nasze relacje ze zmarłymi. 

Czy jednak jesteśmy gotowi na świat, w którym zmarli nigdy nie odchodzą, a ich głosy, całkiem realnie, otaczają nas zewsząd? Na świat, w którym odinstalowanie aplikacji będzie dla nas drugim, może czasem nawet bardziej bolesnym pożegnaniem z kimś bliskim?