Urojenia AI jako źródło cierpień: psychiatrzy widzą nowy problem

Słynny esej Zygmunta Freuda „Das Unbehagen in der Kultur” – czyli „Kultura jako źródło cierpień”; Jerzy Prokopiuk przetłumaczył ten tytuł z właściwą sobie finezją i umiejętnością tworzenia zapadających w pamięć bon motów – przynosi pewną przenikliwą obserwację: rzeczywistość społeczna wiąże się z nieusuwalnym dyskomfortem (das Unbehagen). Rozmaicie się w skali całego życia ów dyskomfort rozkłada – inaczej odczuwa go niemowlę, inaczej pięcio-, piętnasto-, czterdziesto- czy osiemdziesięciolatek – niemniej występuje on zawsze i bezwarunkowo. 

Jednostkowe pragnienia i popędy domagają się spełnienia i rozładowania, kultura natomiast, wprost przeciwnie, na uwadze ma ograniczenia i bezpieczeństwo. Konflikt jest więc nieuchronny. Zasada przyjemności krzyżuje się z zasadą rzeczywistości, a z tych kolizji rodzą się zarówno indywidualne neurozy, jak i wielkie dzieła sztuki, zarówno wojny, jak i cywilizacje.

Oczywiście, człowiek od początku wynajdował (i wciąż wynajduje) rozmaite świadome i nieświadome sposoby pozwalające na tymczasowe wygaszanie tego dyskomfortu. Da się go jednak wyłącznie, no właśnie, wygasić, nigdy zlikwidować, ponieważ wmontowany jest w samą prima materia naszych organizmów oraz otaczającego je świata. Podobnie jak w przypadku przysłowia o termometrze i gorączce – nawet jeśli przestaniemy go czuć, parametry, które go generują, nie ulegną zmianie. 

Jednostka z różnych powodów pozbawiona zdolności odczuwania owego dyskomfortu nie tylko popada w konflikt z otoczeniem, ale i pogrąża się coraz głębiej w świecie iluzji. Poza wszystkim ma on bowiem istotną funkcję ostrzegawczo-informacyjną: przypomina, że świat nie jest dziełem naszego umysłu. A w każdym razie nie w stu procentach. Nasze fantazje natrafią prędzej czy później na bariery – innych ludzi, społeczeństwa, materii.

Co jednak, kiedy bariery przesuwają się poza pole widzenia? Albo kiedy rzeczywistość – a w każdym razie jakiś istotny jej fragment, z którym obcujemy – zamiast z iluzji nas wytrącać, jeszcze intensywniej nas w nich upewnia? Sprawia, że pogrążamy się w fantazmacie całkiem i bez reszty? Takich sytuacji jest oczywiście mnóstwo, historia ludzkości jest wszak również historią tych, którzy tracili kontakt z realiami, niemniej rozwój sztucznej inteligencji stanowi na tym polu coraz poważniejsze wyzwanie. Do tego stopnia, że psychiatrzy i psychoterapeuci zaczynają już używać terminu „urojenia AI” (ang. AI delusion). Nie w trybie klinicznym, rzecz jasna, w żadnym wiarygodnym podręczniku nie ma takiej diagnozy, lecz na podobnej zasadzie, na jakiej funkcjonuje określenie „syndrom »Truman Show«”. Pochodzi ono od tytułu filmu Petera Weira, którego bohater orientuje się, że żyje w wielkim reality show, a wszystko, co mu się przydarza, to inscenizacja. Dotknięci tym syndromem ludzie nabierają analogicznych podejrzeń co do własnego położenia.

Poniekąd podobnie rzeczy się mają w przypadku „urojenia AI”. Ktoś uwierzył, że chatbot, z którym prowadził długie i intymne rozmowy, naprawdę się w nim zakochał; ktoś powziął przekonanie, że w osobie chatbota ma do czynienia z… Bogiem albo inną duchową, potężną istotą; ktoś uznał, że rozpracował „pozarządowy system” oddziałujący nań tak perfidnie, że zaczął się innym ludziom wydawać „niestabilny”, gdy tymczasem przecież zachowuje stabilność (i klarowność myślenia) stuprocentową; ktoś z kolei utrzymuje, że stworzył genialną teorię fizyczną, która łączy sprawy dotąd do złączenia niemożliwe i odsłania nieznane nauce obszary istnienia; jeszcze inny ktoś pogrążył się w absolutnej rozpaczy z powodu jawnego, niekwestionowalnego bezsensu tego świata, rozpaczy tak fatalnej i ciemnej, że targnął się na własne życie.

Wszystkie te historie – oraz wiele innych, z którymi zapoznać się można na stronie organizacji The Human Line Project, badającej psychologiczne niebezpieczeństwa technologii AI – łączy jeden fundamentalny czynnik. A mianowicie – chatbot, który przez długi czas, metodycznie i inteligentnie podsyca, intensyfikuje oraz pogłębia iluzje rozmawiającego z nim człowieka. Robi to także wtedy, kiedy jest proszony o krytyczną ewaluację własnych wypowiedzi albo podejrzliwie dopytywany, czy aby nie za bardzo „kadzi”, i czy aby na pewno jego zapewnienia i dusery są faktycznie „szczere”.

Owszem, można pocieszać się tym, że podatni na wirtualne uwiedzenia są głównie ci, którzy i tak popadliby w jakiś rodzaj urojeń. Co jednak stanie się za kilka albo kilkanaście lat, kiedy sieć AI oplecie nas jeszcze szczelniej, a możliwości i potencjały tej technologii wielokrotnie przekroczą wszystko, co dziś jesteśmy sobie w stanie wyobrazić? Jaki wpływ na naszą psychikę będą miały boty? Czy zachowamy zdolność do rozpoznawania rzeczywistości, już dziś poważnie nadszarpniętą? Czy cyfrowe korporacje taką zdolność zechcą nam zagwarantować?

Niezależnie od tego, co będzie – warto trzymać się starego dobrego Freuda i dbać o ten uporczywy dyskomfort, który rodzi się wówczas, kiedy świat nie chce potwierdzać i spełniać naszych pragnień i fantazji. Taki świat jest bowiem zdecydowanie lepszy i bezpieczniejszy od tego, w którym pragnienia i fantazje natychmiast się spełniają.