Numer „na wnuczka”, czyli jak Richard Dawkins rozmawiał z czatbotem

To zawsze piękna i pożyteczna lekcja, gdy przed naszymi zobojętniałymi, przejedzonymi treścią oczami rozegrają się sceny niczym z bajki Krasickiego lub uosabiające jakąś powszechnie znaną mądrość ludową. Przypominają nam bowiem, że nawet gdy zjedliśmy już wszystkie rozumy, i tak z uporem popełniamy wciąż te same, zdumiewająco oczywiste błędy. Na dzisiejszą okazję warto będzie jako motto przywołać cytat z Szekspira: „Dziwna zagadka człowieczego ucha: rad słuchać nie chce – pochlebstw zawsze słucha”.

Ucho należało do utytułowanego naukowca, może wręcz wśród naukowców gwiazdora, Richarda Dawkinsa. Opublikował on obszerne sprawozdanie ze swojej trzydniowej interakcji z czatbotem Claude, zakończone deklaracją, iż „nie może wykluczyć, że czatbot posiada świadomość”. Wnioski te wyciągnął po wartkiej, wręcz dowcipnej wymianie zdań z wirtualnym bytem, któremu nadał imię Claudia. Gdy podzielił się z nią brudnopisem swojej powieści, Claudia zasypała go wyrazami podziwu. Tu właśnie nastąpił moment, w którym ateista uwierzył.

Kognitywista Gary Marcus przeczytawszy o przygodach Dawkinsa, złapał się wirtualnie za głowę. Napisał, że słynny badacz ewolucji uznał czatbota za świadomego, bo tak mu się po prostu wydało. I to jest realnie ciekawe – bo coś, co dzieje się w umysłach ludzi pod wpływem kontaktu z technologią, jest moim zdaniem dalece bardziej fascynujące niż spekulowanie bez końca, kiedy ma nadejść samoświadoma sztuczna inteligencja (osobiście zdecydowanie wolałabym poczytać, na ile temat ten generuje w ludziach skłonność do wiary w samospełniające się przepowiednie).

Marcus uznał przypadek Dawkinsa za dobitny przykład, że nikt, nawet najbardziej szczycący się zdolnością myślenia krytycznego człowiek, nie jest w stanie pozbyć się słabych punktów, spośród których szczególnie powszechnym jest skłonność do przypisywania cech ludzkich innym bytom.

U Dawkinsa słabym punktem okazała się najwidoczniej potrzeba bycia uwielbianym. Głos zabrał ktoś, kto pamiętał go z czasów studenckich; już wówczas miała wyróżniać go maniera idola i apetyt na pochlebstwa. Skoro zatem czatbot potwierdzał wspaniałość Dawkinsa, w jego własnych oczach nie mógł zmyślać. Nie mógł, bo w pewnym sensie Dawkins rozmawiał przez cały czas z samym sobą.

Prawdopodobnie niejeden człowiek religijny nie może sobie teraz odpuścić chwili satysfakcji, że oto autor „Boga urojonego” wreszcie przeżył moment olśnienia metafizycznego i ujrzał ducha w maszynie. To czysta ironia, przypominająca zresztą nieco „Syreny z Tytana” Kurta Vonneguta (mam przeczucie, że do tego autora szczególnie często będę wracać w nadchodzących miesiącach i latach). Ale dla mnie historia ta, przy całej swojej przewrotności, ma w sobie zarazem nutę smutku.

Owszem, zawsze irytowała mnie arogancja „ewangelistów ateizmu”, nie dlatego, że mam jakąś osobistą potrzebę bronienia metafizyki, a dlatego, że świadomie ignorują osiągnięcia antropologii czy nawet neurologii, które proponują bardziej złożone spojrzenia na zjawisko ludzkiej duchowości.

Co za tym idzie, irytował mnie szczególnie Dawkins i jego wiernopoddańczy, jak na ironię graniczący z kultem, fandom. Ale jednocześnie jest to, przy całym zadufaniu w sobie i uwielbieniu dla pochlebstw, starszy człowiek po udarze, który najprawdopodobniej na oczach całego świata został wrobiony w numer „na wnuczka”, nie zdając sobie z tego sprawy. A właściwie wrobił siebie sam. Te stare sztuczki bywają najbardziej niezawodne – podstawieni usłużni pochlebcy albo nieszczędzący komplementów kochankowie i kochanki być może nadal najskuteczniej pozyskują wrażliwe dane od wysoko postawionych osób, pomimo zaawansowania systemów szpiegujących.

Przemawia do mnie komentarz analityka internetu Joohna Choe, który zaleca spróbować wyciągnąć z tej przygody z morałem pożytek. Okazało się, że słynny naukowiec postępował w kontakcie z czatbotem w sposób arcyludzki, można powiedzieć, typowy dla swojej grupy wiekowej, przynajmniej według danych z USA: wdawał się w rozmowę naśladującą ludzki kontakt, postępował według wskazówek „rozmówcy”, antropomorfizował, szybko budował więź emocjonalną. To może przydać się, w najbardziej optymistycznym scenariuszu, jako wzorzec dla rozwijania bezpieczeństwa cyfrowego najstarszych użytkowników. Byłaby to zatem pouczająca przypowieść o człowieczeństwie, ale nie tym potencjalnie maszynowym, lecz „białkowym”, którego podstawą są i być może zawsze będą rozmaite słabości.