Leon XIV ogłasza encyklikę o sztucznej inteligencji. Przestrogi i wezwania papieża

Dobrze wiem, jak wysoka jest stawka. Zarówno jeśli chodzi o zyski, jak i o to, co AI może” – mówił przed rokiem Dario Amodei, współzałożyciel firmy Anthropic – start-upu, który w 2021 r. oderwał się od ChataGPT, stworzył własnego asystenta AI (Claude), a dziś jego szacowana wartość jest bliska biliona dolarów. 

W grupie (niewielkiej) największych graczy na rynku nowych technologii Anthropic jako jedyny odmówił administracji Donalda Trumpa współpracy w inwigilacji obywateli i rozwijaniu technologii broni autonomicznej, za co grozi mu odebranie zleceń rządowych. A dziś jako jedyny zaproszony został na prezentację encykliki „Magnifica humanitas” w Watykanie.

To pierwsza taka sytuacja – przynajmniej w najnowszej historii Kościoła. Budząca wściekłość konkurencji, bo rzeczywiście stawka jest wysoka, zwłaszcza jeśli chodzi o zyski. Ale nie konflikt z Trumpem przymnożył Anthropicowi sympatii papieża ani deklarowana troska o bezpieczeństwo i etykę ich technologii (to może zadeklarować każdy), tylko dziesięcioletnia współpraca z Watykanem.

Zresztą, z inicjatywy założycieli Anthropica („W 2016 r. przyszli do mnie i mówią, że szykuje się coś bardzo ważnego, o wielkim wpływie, i uważają, że Watykan powinien być tego świadomy i zacząć o tym myśleć” – wspominał dominikanin o. Eric Salabier, do którego się zgłosili). Rozpoczęte wtedy regularne rozmowy z Papieską Radą Kultury przyspieszyły mocno w 2022 r., po premierze ChataGPT. W dialog włączyły się też inne watykańskie instytucje oraz naukowcy, duchowni, filozofowie i etycy z „innych religii i tradycji mądrościowych”.

Dlaczego warto o tym wiedzieć? W nowej encyklice, opublikowanej w poniedziałek, 25 maja, Leon XIV wielokrotnie zwraca uwagę, że dziś to nie państwa kierują innowacjami i są motorami rozwoju, ale „podmioty prywatne, często ponadnarodowe, dysponujące zasobami i zdolnością oddziaływania większymi niż wiele rządów”. Żyjemy w czasach – pisze papież – gdy „światowe bogactwo wzrosło w kategoriach absolutnych, ale nasiliła się jego koncentracja w rękach nielicznych”. 

Do tych nielicznych a możnych papież apeluje o odpowiedzialność, roztropność i transparentność. Ale nie jest aż taki naiwny, by jednocześnie nie domagać się państwowych, a najlepiej międzynarodowych regulacji. Nawet za cenę spowolnienia rozwoju sztucznej inteligencji.

Co nie oznacza, że jest przeciwny nowym technologiom. Tylko nie uważa ich za moralnie neutralne narzędzie. Algorytmy – pisze Leon – „mają oblicze” tych, którzy je zaprojektowali i wyszkolili, odzwierciedlają ich wizję człowieka i świata, włącznie ze stereotypami lub ideologiami, jakimi się kierują.

Papież ma świadomość trudności, jakie wiążą się z mówieniem i pisaniem o sztucznej inteligencji („istnieje ryzyko, że wszelkie tezy dotyczące AI mogą się w krótkim czasie zdezaktualizować ze względu na zdumiewające tempo rozwoju tych systemów. Po drugie, wszyscy – także ci, którzy je projektują – niewiele wiemy o ich rzeczywistym funkcjonowaniu”). A jednak bardzo precyzyjnie, trafnie i zrozumiale ją opisuje, podobnie jak najważniejsze zagrożenia z nią związane. I nie ukrywa, że walka o jej zdominowanie przypomina wyścig zbrojeń – dlatego apeluje, by zawczasu ją rozbroić.

Wbrew pozorom nie tylko sztuczna inteligencja jest bohaterem głównym nowej encykliki. Drugim, nie mniej ważnym, jest antropologia – wizja człowieka w świecie nowych technologii; a trzecim – katolicka nauka społeczna, której podstawowym celem jest obrona godności każdego człowieka.

Dwa pierwsze rozdziały dokumentu im poświęcone to błyskotliwa synteza nauczania kolejnych papieży od końca XIX w. oraz dokumentów soborowych, osadzona w kontekście współczesnych problemów, jak wojna, emigracja, e-uzależnienia (nowe niewolnictwo), prawa kobiet i mniejszości – spotęgowanych zastosowaniem sztucznej inteligencji. Jeśli ktoś szuka krótkiego, kompetentnego kursu w tej dziedzinie, może śmiało sięgać po „Magnifica humanitas”.

Nawiązań jest w niej wiele, nie tylko do nauczania Kościoła i nie zawsze wprost: w krytyce tezy, że przemoc jest immanentną cechą człowieka i skoro nie da się jej uniknąć, można ją jedynie „optymalizować”, słychać polemikę z poglądami Petera Thiela, nowego ideologa Doliny Krzemowej. 

Piszę te słowa podczas prezentacji encykliki w Auli Pawła VI, nie ochłonąwszy jeszcze po pierwszej lekturze dokumentu. Jego analizę wraz z komentarzami opublikujemy w kolejnym numerze „Tygodnika”. Ale już dziś wiemy, że to ważne przesłanie spotka się z gwałtowną reakcją ze strony twórców AI. Zapewne pojawią się zarzuty, że papież próbuje, jak to nieraz w historii bywało, powstrzymać postęp.

Byłoby sporym nieporozumieniem, gdybyśmy sprowadzili encyklikę jedynie do krytyki nowych technologii. Wręcz przeciwnie, „Magnifica humanitas” jest – jak sam tytuł mówi – wielkim zachwytem nad „wspaniałym człowieczeństwem”: jego mądrością, doświadczeniem, kreatywnością i różnorodnością. Dzięki którym powstają dzieła, mogące zadziwić albo zatrwożyć świat. A na pewno go odmienić. 

Nie dopuśćmy, by AI zapanowała nad człowiekiem

Chciałbym wreszcie użyć słowa, które jest mi szczególnie drogie: „rozbroić”. Rozbroić AI znaczy wyrwać ją z logiki zbrojnej rywalizacji, która dzisiaj nie jest już wyłącznie militarna, lecz także ekonomiczna i poznawcza. Jest to wyścig do stworzenia najsprawniejszego algorytmu i najszerszego zbioru danych (dataset) po to, by utrwalić przewagę geopolityczną lub handlową nad wszystkimi innymi. 

Rozbroić znaczy zerwać tę równoznaczność między potęgą techniczną a prawem do rządzenia. Rozbroić nie znaczy wyrzec się technologii, lecz nie dopuścić, by zapanowała nad tym, co ludzkie. Znaczy wyzwolić ją spod monopoli, uczynić ją przedmiotem debaty i sprzeciwu, a tym samym przestrzenią przyjazną ludziom. 

(...) Sztuczna inteligencja jest już środowiskiem, w którym jesteśmy zanurzeni, i władzą, z którą musimy się liczyć. Dlatego nie wystarczy jej regulować: trzeba ją rozbroić i uczynić przyjazną. (110)

Leon XIV „Magnifica humanitas” (fragmenty)