Być androidem

W wydanej właśnie po polsku „Klarze i słońcu”, swej pierwszej powieści po Noblu, Kazuo Ishiguro pyta, gdzie leży granica ludzkiej wyjątkowości. Bo skoro jesteśmy tylko algorytmami, których zachowania da się przewidzieć i zaprogramować, nic nie stoi na przeszkodzie, by stworzyć zastępczych nas, prawda?

Małpa nocą

Jest taki wspaniały fragment pod koniec „Sprawozdania dla Akademii” Franza Kafki. Czerwony Piotruś, złapana w Afryce małpa, która – sprowadzona do cywilizowanego świata – dzięki tresurze i nauce osiągnęła „przeciętną kulturę Europejczyka”, teraz występuje przed gronem naukowców, zdając im świadectwo ze swojej „małpiej przeszłości”. Opowiada zgromadzonym, co czyni wieczorem po powrocie do domu z kabaretu, w którym jest zatrudniony. Wcześniej zaznacza, że zależało mu na znalezieniu pracy właśnie tam, nie w ZOO. To w tym celu tak pilnie się uczył być człowiekiem, a jego „małpia natura uchodziła (...), koziołkując, uciekała na łeb, na szyję”. Piotruś osiągnął sukces: gra w przedstawieniach, bywa na rautach i spotkaniach, a gdy wraca do mieszkania – to nie do pustego.

Czeka tam na niego „mała, na pół wytresowana szympansiczka, [z którą] oddaję się przyjemnościom naszej krwi”. Za dnia, dodaje Czerwony Piotruś, nie ma ochoty jej oglądać, bo widzi w niej zwierzę, jakim sam niegdyś był. Nocą: to co innego.

Kafka nie opisuje reakcji słuchających Piotrusia akademików, można jednak domniemywać, że była ona mieszanką rozbawienia i ulgi. Tak długo słuchali opowieści małpy o jej wyczynach w dziedzinie uczenia się, jak być człowiekiem, że nieomal uwierzyli, iż faktycznie mają przed sobą człowieka. Oczywiście: człowieka w skórze afrykańskiego zwierzęcia, włochatego jak zwierzę i z pazurami, niemniej – człowieka. Jeżeli jednak sam Piotruś twierdzi, że przygodom erotycznym oddaje się z szympansicą, to człowiekiem wcale nie jest; jak można mu było uwierzyć, że się nauczył nim być? Jak można było uznać, że osiągnął to, co „nie byłoby może niczym samo w sobie, a jednak było czymś”?

Te właśnie pytania towarzyszyły mi podczas lektury „Klary i słońca”, która jest rozpisaniem problemów poruszonych w „Sprawozdaniu dla Akademii” na dziesięciokrotnie więcej stron, niż zapełnił Kafka.

Jakby dla dzieci

Rozmach – jak zwykle u Ishigury trzymany jednak w ryzach, bo jego powieści nie przekraczają trzystu stron – jest o tyle uprawniony, że tytułowa bohaterka „Klary...” nie zdaje czytelnikowi na Piotrusiową modłę sprawozdania z tego, w jaki sposób stała się człowiekiem. Opowiada raczej o próbie uczynienia z niej tego ostatniego i pobudkach, dla których ktoś tę próbę podjął.

Konkretnie zaś podjęła ją matka młodej Josie, która w dystopijnej Ameryce nabyła dla niej Klarę, androida spełniającego funkcję Sztucznego Przyjaciela. Jego zadania nie są szczegółowo określone, ale można powiedzieć, że jego główną pracą jest dotrzymywanie człowiekowi towarzystwa: z Klarą można się bawić, można rozmawiać, a ona szybko staje się od człowieka cokolwiek nieodróżnialna, bo uczy się ludzkich zachowań.

Dla pewnej klasy społecznej Sztuczny Przyjaciel to artefakt obowiązkowy, podobnie jak zabieg zmiany sekwencji genów, który Josie ma w niedalekiej przyszłości przejść. Ten ostatni, oprócz tego, że jest klasowym emblematem, wiąże się także z niebezpieczeństwami. To właśnie na wypadek, gdyby się nie powiódł, matka Josie kupiła Klarę: bo chce, by Sztuczna Przyjaciółka zastąpiła jej córkę.

Wewnętrzna logika powieści Ishigury sprawia, że się przyjmuje za obiektywny ogląd świata, jaki proponuje czytelnikowi pierwszoosobowa, nie-ludzka narratorka Klara. Zdaniem autora ta czytelnicza wiara jest możliwa ze względu na gatunek, z jakiego Sztuczna Przyjaciółka się wywodzi – literaturę dla dzieci.

– I mam tu na myśli książki dla możliwie najmłodszych – mówi Ishiguro. – Te kolorowe, z prostą historią i mnóstwem fantastycznych ilustracji. Panuje w nich dziwna racjonalność, która wydaje się zupełnie oczywista w świecie, o którym opowiadają, a pozostaje niedozwolona w książkach dla starszych dzieci i dorosłych. W ramach tej racjonalności nie ma nic dziwnego w tym, że księżyc zaczyna mówić, albo że można otworzyć okno, wystawić za nie drabinę i się na niego wdrapać. Ten rodzaj racjonalności jest fascynujący i wyzwalający. Uznałem, że przy jego zastosowaniu główna bohaterka „Klary i słońca” będzie mogła z jednej strony wydawać się wyrafinowana i genialna, z drugiej dziecinna. Zresztą jako Sztuczna Przyjaciółka spełnia przecież taką samą rolę, jaką w niektórych książkach dla dzieci spełniają ożywione lalki albo misie.

Nie zadałem pisarzowi pytania o logikę sam. To, co w przedpandemicznej rzeczywistości byłoby typowym dla wielkiej literackiej premiery wywiadem jeden na jeden, zmieniło się w prowadzony na Zoomie webinar dla kilkudziesięciu zainteresowanych z całego świata. Kolejne kwestie poruszają przedstawiciele agencji literackiej reprezentującej Ishigurę, zamkniętego w gustownie urządzonym salonie domu w północnym Londynie.

Nowy człowiek

Ta forma spotkania to nie tylko skutek pandemii, również Nobla, jednego z bardziej – może poza nagrodą dla Boba Dylana – nieoczekiwanych w ostatnich latach. To z jego powodu „Klara i słońce”, powieść dotykająca tematów dla laika atrakcyjnych, ale bez szczegółowego, naukowego przygotowania niezrozumiałych, wiąże się dla Ishigury z niebezpieczeństwem, o którym mówi wprost: popadnięciem w syndrom geniusza. Czym jest ten syndrom?

– Zanim sam dostałem Nobla, nie poznałem wielu pisarzy noblistów, za to naukowców owszem – tłumaczy. – Ostrzegali mnie przed podobnym zachowaniem, które w ich społeczności jest łatwe do zauważenia i napiętnowania, bo tam Nobla dostaje się za specjalizację w wąskiej dziedzinie wiedzy. Idzie o ochotę, by wypowiadać się na tematy, w których tej specjalizacji nie masz, czyli o robienie z siebie głupka.

O pisarzu można powiedzieć, że specjalizację ma, bo „Klara i słońce” to nie pierwsza powieść, w której dotyka tematu sztucznej inteligencji. Wziął ją na warsztat już w wydanym w 2005 r. i później sfilmowanym „Nie opuszczaj mnie”: opowieści o alternatywnej wersji lat 90. w Anglii, dziejącej się w szkole z internatem, która okazuje się hodowlą ludzkich klonów, mających dostarczyć swoim pierwowzorom organów, gdyby ich własne się zepsuły.

Wydając „Nie opuszczaj mnie”, ­Kazuo Ishiguro miał 51 lat; upłynęły ponad dwie dekady od czasu, gdy wraz z m.in. Salmanem Rushdiem, Martinem Amisem i ­Ianem McEwanem został przez magazyn „Granta” zaliczony do grona najbardziej obiecujących angielskich pisarzy. Wtedy, jako najmłodszy z tego grona (i jedyny, obok Rushdiego, z imigrancką przeszłością; urodził się w 1956 r. w Nagasaki, do Anglii rodzina sprowadziła się, kiedy miał pięć lat), był u progu kariery, która wpierw była błyskotliwa, a potem spowolniła.

Bo tak: w latach 80. i na początku 90. pisał cieszące się krytycznym uznaniem bestsellery – za „Malarza świata ułudy” (1986) dostał Whitbread Book Awards, za „Okruchy dnia” (1989), na podstawie których nakręcono potem oscarowy film z Anthonym Hopkinsem, Nagrodę Bookera – ale nigdy nie zajmował ani pozycji publicznego intelektualisty (jak Rushdie), ani literata-celebryty (jak Amis). „Niepocieszony” (1995) został przez recenzentów skrytykowany, wojenne „Kiedy byliśmy sierotami” (2010) przez samego Ishigurę uznane za jedną z gorszych rzeczy, jakie napisał. „Nie opuszczaj mnie” potraktowano jako powrót do formy, i podobnie jest w zachodniej recepcji z „Klarą i słońcem”, następującej po nieudanym „Pogrzebanym olbrzymie” (2015).

– Te powieści są połączone – mówi Ishiguro. – Nie tylko dlatego, że akcja obydwu toczy się w bliskiej, dystopijnej przyszłości. Raczej dlatego, że obydwie, opowiadając o sztucznej inteligencji, podejmują temat czegoś innego: ludzkiej duszy. O ile jednak „Nie opuszczaj mnie” jest pesymistyczne, „Klara” wręcz przeciwnie.

Różni je jeszcze jedna rzecz: podejście Ishigury do researchu. O ile bowiem „Nie opuszczaj mnie” było powieścią science fiction, w której fiction wygrywało z science, o tyle „Klara i słońce”, choć sprawdza się jako parabola, to rzecz dużo bardziej naukowa.

– Sztuczną inteligencją interesuję się od dawna i miałem to szczęście, że mogłem odbyć na jej temat wiele rozmów z kluczowymi naukowcami w tej dziedzinie – mówi Ishiguro. – Z jednym z tych wielkich umysłów siadywaliśmy w kawiarni niedaleko mojego domu w Londynie i głośno dyskutowaliśmy; dla postronnych musieliśmy brzmieć jak para wariatów. Interesowało mnie, na jakim aktualnie etapie są dzisiaj prace nad AI. Wyobrażałem sobie ją wtedy jako jeden z tych komputerów, które w latach 90. wygrywały z szachowymi mistrzami. I co? Okazało się, że od tamtego czasu prace poszły daleko naprzód. Tamto było bardzo prymitywnym wcieleniem sztucznej inteligencji, po prostu zaprogramowanym przez człowieka. Później przeszliśmy do sztucznej inteligencji, która potrafiła się uczyć; niby dużo, ale była to nauka tylko pod ludzkim nadzorem. Dziś jesteśmy na etapie AI, która umie się uczyć sama. Z drugiej strony, nauczywszy się mnóstwa skomplikowanych rzeczy, w niektórych sferach życia pozostaje prymitywna: może na przykład zrobić herbatę, ale tylko w jednej, określonej kuchni. Jest więc mieszanką wielkich umiejętności i wielkiej ignorancji.

Ten etap rozwoju sztucznej inteligencji – i następny, opisany w „Klarze i słońcu” – sprawia, że nie wiadomo właściwie, jak ją traktować. W „Klarze...” jest wspaniała scena, w której okazuje się, że chociaż android to posiadany przedmiot, nie można od niego wymagać (albo też: nie wypada), aby człowiekowi służył. W innej jednak Klara idzie do teatru, dostaje ostatni bilet na spektakl i musi się skonfrontować z inną chętną, wściekłą, że androidy wpierw zabrały ludziom zatrudnienie, a teraz możliwość obejrzenia sztuki.

To właśnie podobna wściekłość i jednoczesne krygowanie się wobec sztucznej inteligencji sprawia, że kryzys, jaki wywołuje jej rozwój, jest, zdaniem autora, przede wszystkim kryzysem dotykającym człowieka.

– Na przykład kwestia zatrudnienia – mówi Ishiguro. – AI doprowadzi do tego, że wielu z nas straci pracę; jednocześnie nie pojawią się nowe zawody, na które by się można przekwalifikować. Dotychczas bycie człowiekiem opierało się na przeświadczeniu, że wartość jednostki bierze się z tego, jak wiele z siebie daje społeczeństwu. A co, jeśli ktoś niczego dać nie będzie w stanie? Ludzkość zostanie zmuszona do wymyślenia siebie na nowo.

A świat, w którym się na nowo wymyśli, niekoniecznie będzie światem urządzonym przez człowieka. Do czego Ishiguro doszedł, zastanawiając się, co stanie się z jego zawodem.

– Spytałem znajomego naukowca, czy został już napisany program, który nazywałby się Tolstoy3 i umiałby tworzyć powieści. To znaczy: prawdziwe powieści. Nie coś, co przypomina powieść, ponieważ spełnia formalne wymagania, ale dzieło, które sprawia, że ludzie mogą się śmiać albo płakać. Sądzę, że gdy taki program się pojawi, zostanie przekroczona najważniejsza granica: sztuczna inteligencja będzie odtąd w stanie manipulować naszymi emocjami. A to oznacza, że będzie mogła rozpoznać społeczne frustracje i poprowadzić skuteczną kampanię polityczną. Albo wymyślić następną wielką ideę, coś, co porwie ludzi i zorganizuje im życie, jak nazizm, komunizm czy kapitalizm.

Taki świat nie będzie się już składał z wyjątkowych jednostek; nie będzie światem, w którym Montaigne na pytanie o Stefana de la Boétie odpowie: „Bo to był on; bo to byłem ja”.

– Kroki, jakie poczyniliśmy w badaniach nad sztuczną inteligencją i zmianą sekwencji genów, sprawiają, że zaczynamy myśleć o sobie jako o algorytmach, które można profilować – mówi Ishiguro. – Co się w takim przypadku dzieje z miłością? Kocham moją żonę i córkę, albo: myślę, że kocham moją żonę i córkę, ponieważ są wyjątkowymi osobami. Gdy jednak staniemy się algorytmami, potężne maszyny będą mogły skonstruować sztuczne inteligencje podobne do nich bądź takie same. Czy je także będę mógł darzyć miłością?

Być nietoperzem

Kafkowski paradoks Czerwonego Piotrusia, który nauczył się, jak być człowiekiem, dobrze odbija inny: zadane przez Thomasa Nagela pytanie, jak to jest być nietoperzem. Nagelowi nie szło o to, jak to jest być człowiekiem w nietoperzej skórze; nie o to, w jaki sposób można być nietoperzem wyposażonym w ludzką percepcję; nie o to, jak człowiek konceptualizowałby sobie nietoperzowe potrzeby, wiedząc, że są właśnie tymi potrzebami i że inne gatunki mają inne. Idzie o to, w jaki sposób nietoperz myśli, nie wiedząc, że to robi, nie posiadając pojęcia, że istnieje coś takiego, jak instytucja myślenia. Czy tego też można się nauczyć i czy Czerwony Piotruś, osiągnąwszy „przeciętną kulturę Europejczyka”, stał się nim? W przypadku „Klary i słońca” pytanie Nagela i Kafki można odwrócić i spytać: jak to jest być androidem, uczynionym na ludzki obraz i podobieństwo jako nie-człowiek?

– Jedno z niebezpieczeństw tkwiących w sztucznej inteligencji polega na tym, że chociaż sama potrafi się uczyć, mimo wszystko jest tworzona przez człowieka – mówi Ishiguro. – Innymi słowy: pewne jej schematy myślowe są ludzkie. Czego się obawiam, to tego, że wymyślona dzisiaj AI będzie wyposażona w nasze lęki oraz uprzedzenia, uznawane współcześnie za naturalne. Gdybyśmy stworzyli sztuczną inteligencję dwa wieki temu, sądziłaby, że w niewolnictwie nie ma nic złego.

Klara Ishigury, podobnie jak Czerwony Piotruś z opowiadania Kafki, potrafi być człowiekiem tylko do pewnego stopnia; owszem, umiejętność uczenia się jest jedną z jej głównych cech, jednak jest to umiejętność uczenia się tylko w granicach uprzednio określonych przez tych, którzy ją stworzyli. Dla Ishigury sztuczna inteligencja, jakkolwiek zaawansowana by była, odzwierciedla ludzi, którzy ją ulepili – to oni określają horyzont jej wyobraźni. Na zadane w analogii do paradoksu Nagela pytanie nie można więc odpowiedzieć inaczej niż w granicach będących udziałem twórców androida.

To z tego względu Klara odbija szereg ludzkich cech, które dla mielącego setki danych, będącego triumfem scjentyzmu androida zdają się absurdalne. Przykładowo: poszukuje boskości, którą odnajduje właśnie w tytułowym słońcu.

– Klara – tłumaczy Ishiguro – jest dla człowieka rozchwianym zwierciadłem: imituje ludzkie instynkty do tego stopnia, by zawsze w ludzkim świecie pozostać outsiderem. Dlatego szuka istoty wyższej. A tą ostatnią nie musi być przecież bóg, tak jak my go rozumiemy; idzie o kogoś, o kim nie myślimy na co dzień, ale kto jest i nad nami czuwa. W pandemii okazało się, że kimś takim może być nauka, która nam zawsze pomoże.

Czy można więc powiedzieć, że czytając pierwszoosobową „Klarę i słońce” jako czytelnicy stajemy się androidami bądź uczymy się nimi być tak, jak Czerwony Piotruś nauczył się być człowiekiem? Gdyby odpowiadał na to pytanie Thomas Nagel, byłby sceptyczny. Według amerykańskiego filozofa bowiem, nawet znając wszystkie koordynaty bycia nietoperzem, i tak nie możemy wiedzieć, jak to jest nim być. Wiedza o materialnych podstawach świadomości nie wystarcza, aby ją zrozumieć.

Ishiguro się z tym zgadza: – Czekam na nowe pokolenie pisarzy, które odda problemy naszej współczesności, na przykład strach przed katastrofą klimatyczną. Jest jej trochę w „Klarze i słońcu”, ale niewiele, bo to nie jest problem mojego, zimnowojennego pokolenia. Z tego względu ta powieść wydaje mi się przykładem tego, w jaki sposób na nowy, nadchodzący świat spogląda człowiek z wyczerpanej, odchodzącej generacji.

Być może do tego pokolenia będzie należał Tolstoy3 – ale tylko być może, bo strachy sztucznej inteligencji i pisarzy jej gatunku będą zupełnie innymi strachami niż ludzkie. I chociaż Tolstoy3 zdoła się tych ostatnich nauczyć, to wróciwszy wieczorem do domu, i tak znajdzie się w towarzystwie szympansiczki, by oddać się z nią przyjemnościom ich cyfrowej krwi. ©

Fragmenty „Sprawozdania dla Akademii” Franza Kafki w przekładzie Juliusza Kydryńskiego.

Kazuo Ishiguro, KLARA I SŁOŃCE, przełożył Andrzej Szulc, Wydawnictwo Albatros, Warszawa 2021