Jakiego końca świata nie będzie

Miał już nastąpić na tak wiele sposobów, że trudno zliczyć. Jakiej apokalipsy boimy się dziś, na progu nowej dekady? Co ma nam przynieść zagładę w XXI wieku?

28.12.2019

Czyta się kilka minut

 / MAGDA WOLNA
/ MAGDA WOLNA

Nadszedł rok 2020. Oznacza to, że mniej więcej połowa tegorocznych polskich noworodków ujrzy na własne oczy świat A.D. 2100. Wiemy, w jakim świecie przyszło im się narodzić. Mamy też scenariusze tego, z jakim światem się pożegnają.

No, chyba że w międzyczasie nastąpi koniec świata.

Nieporozumienie klimatyczne

Badania naukowe nie pozostawiają złudzeń: aktywność ludzka wpływa w istotny sposób na klimat. Zmiany te już teraz są mierzalne, a ze względu na dużą bezwładność systemów ziemskich nawet gdybyśmy już dzisiaj zaczęli wciskać pedał hamulca, będą postępowały przez cały XXI wiek.

Jakie będą tego skutki? Zajrzyjmy do piątego raportu klimatycznego IPCC – a nie ma solidniejszego źródła niż ów dokument – cytując przy tym najbardziej pesymistyczny scenariusz RCP8.5. Do 2100 r. globalna temperatura powierzchni Ziemi ma wzrosnąć o 4 st. C, a poziom oceanów ma się podnieść o 70 cm. Niemal na pewno będzie częściej dochodziło do niektórych skrajnych zjawisk pogodowych, jak fale gorąca, ponadto poziom opadów w wielu regionach suchych spadnie, a w wilgotnych wzrośnie. Możliwe też, że letnia pokrywa lodowa w Arktyce zniknie całkowicie.

Jak więc zamierzam bronić tezy, że n i e czeka nas katastrofa klimatyczna?

Po pierwsze, chcę się skupić wyłącznie na scenariuszach „końca świata” dla ludzkości. Smutna prawda jest taka, że wielu wyrządzonych przez nas szkód dla ekosystemów nie da się cofnąć i wiedza na ten temat prawdopodobnie długo będzie nas prześladować. O tym wiemy. Wiemy też, że działania zaradcze są konieczne: niektóre kłopotliwe dla konkretnych jednostek, a niektóre korzystne ­– jak choćby mądrzejsze korzystanie z transportu czy ograniczenie spożycia czerwonego mięsa.

Nie oznacza to jednak z automatu, że ludzkość czeka katastrofa albo, cytując wystąpienie Grety Thunberg na konferencji COP24 w Katowicach – której głos jest dziś powszechnie znany i będzie w tym artykule reprezentował głosicieli „katastrofy klimatycznej” – że „okradamy nasze dzieci z ich przyszłości”, a XXI wiek przyniesie „koniec cywilizacji ludzkiej”. Zróbmy to, do czego nawołują aktywiści, i posłuchajmy naukowców. Fakty są zaś takie, że rodzące się dziś dzieci mają przed sobą najdłuższe, najzdrowsze życie spośród wszystkich ludzi, którzy kiedykolwiek żyli na tej planecie.

Co więcej, wbrew powszechnym mitom, efekt ten nie dotyczy wyłącznie krajów rozwiniętych. Przeciwnie – jakość życia poprawi się najbardziej w krajach rozwijających się, choćby w Afryce Subsaharyjskiej. Wszystkie symulacje globalnego stanu populacji, np. ONZ-owskie „World Population Prospects 2019”, zakładają, że do 2100 r. przewidywana długość życia – i jego jakość – wzrośnie. W opublikowanym w 2011 r. raporcie Światowej Organizacji Zdrowia (WHO) szczegółowe prognozy zdrowotne doprowadzone są do roku 2060. Według WHO stabilnie spadać ma liczba chorych na w zasadzie wszystkie schorzenia wpływające na wysoką śmiertelność w krajach Trzeciego Świata, jak malaria czy denga. Liczba osób cierpiących na AIDS spadnie do 2060 r. trzykrotnie. Prawie pięciokrotnie (!) spadnie też śmiertelność z niedożywienia w krajach o najniższym dochodzie: teraz niedożywienie jest tam przyczyną 2,5 proc. zgonów; w 2060 r. ma to być 0,6 proc.

Co więcej? Do 2100 r. ośmiokrotnie spadnie populacja ludzi nieposiadających żadnego wykształcenia. Zwiększy się dostęp kobiet do edukacji, a także globalny dostęp do medycyny, technologii i kultury. To nie są tylko przypadkowe, wybiórczo wybrane dane. Trudno znaleźć obiektywnie mierzalną sferę, w której prognozuje się globalny spadek jakości życia w XXI wieku. Do spadku długości życia może – choć nie musi – dojść tylko w krajach wysoko rozwiniętych, w których żniwo zbierają choroby cywilizacyjne.

Jak połączyć jedno z drugim? Jak to możliwe, że w świecie rodem ze scenariusza RCP8.5 mimo wszystko będziemy żyć dłużej i zdrowiej? Okazuje się, że pozytywne skutki rozwoju cywilizacji przewyższają negatywne. Tak, to prawda, że zmiany klimatyczne zwiększą odsetek ludzkości narażonej na malarię. Rozwój medycyny sprawi jednak równolegle, że śmiertelność wskutek malarii spadnie (i to cztero­krotnie, jeśli wierzyć WHO). Tak, to prawda, że znaczne połacie Afryki Subsaharyjskiej staną się silniej narażone na susze, co utrudni produkcję żywności. Równolegle jednak dzietność na tym obszarze, wg symulacji ONZ, spadnie ponaddwukrotnie, a wzrośnie wydajność rolnictwa. Najlepsze dostępne dziś symulacje mówią, że zmiany klimatyczne nie spowodują katastrofy i upadku cywilizacji, tylko nieznacznie spowolnią jej postęp.

Podkreślmy koniecznie, że poruszamy się cały czas w obszarze statystyk. Mówimy o ludzkości, a nie o poszczególnych ludziach. Czy dojdzie do indywidualnych tragedii, za które winą obarczyć można zmiany klimatyczne? Tak. WHO wylicza szczegółowo, że w okresie 2030–2050 zmiany klimatyczne będą powodować 250 tys. dodatkowych śmierci rocznie. DARA International po doliczeniu skutków pośrednich, jak konflikty zbrojne i migracje, podniosła to oszacowanie do 600 tys. Tak, to 600 tysięcy indywidualnych tragedii. Jeżeli jednak dokonujemy globalnej diagnozy stanu ludzkości, musimy spróbować zrozumieć tę liczbę. W 2050 r. z życiem pożegna się 91 mln ludzi, z czego, przykładowo, 1,8 mln w wypadkach drogowych. Zmiany klimatu przyniosą wiele tragedii, jednak nie spowodują globalnej katastrofy. W najgorszym razie nieznacznie spowolnią wspaniały postęp w dziedzinie globalnej jakości życia.

Warto dodać, iż choć można się dziś spotkać z poglądem, że „emisje to zło” i że ograniczanie produkcji CO2 jest zawsze dobre, to za wzrost globalnych emisji w XXI wieku odpowiadać ma głównie rozwój cywilizacyjny w krajach rozwijających się – dostarczanie czystej wody i oczyszczanie ścieków, doprowadzanie dróg, budowanie szpitali, termomodernizacja budynków, zwiększanie mobilności i dostępu do dóbr kultury. Raport IPCC jasno pokazuje, że za największy wzrost emisji w XXI wieku odpowiadać będą właśnie te kraje, nie zaś państwa wysoko rozwinięte. Co zresztą jest w gruncie rzeczy oczywiste – przecież to rozwój doprowadził do tak wysokich emisji, a więc właśnie kraje rozwijające się będą te emisje najsilniej zwiększać. My mamy ten „skok wzrostu” za sobą (choć Polska pod pewnymi względami wciąż goni światową czołówkę) i możemy już – czy wręcz musimy – pozwolić sobie na samoograniczanie. To zresztą dzieje się od dawna. Jak podaje Global Carbon Project: 28 liczonych łącznie krajów Unii Europejskiej osiągnęło swój szczyt produkcji CO2 w 1979 r. – i od tego czasu emisja w UE spadła o 27 proc. USA miały swoje maksimum w 2005 r.

To nie jest więc tak – co jest kolejną popularną tezą – że nieliczna grupa bardzo bogatych krajów spala na potęgę, w wyniku czego biedną większość czeka katastrofa. Jest dokładnie na odwrót. Nieliczna grupa wysoko rozwiniętych krajów jako jedyna w XXI wieku ma obniżyć emisję, a dopiero rozwijająca się większość będzie emitować coraz więcej, jednocześnie znacząco podnosząc swoją jakość życia.

Era genetycznego nadczłowieka

Edycja genomu ludzkiego jest już rzeczywistością. W 2015 r. po raz pierwszy udało się usunąć śmiertelną w skutkach mutację genetyczną z komórek ludzkiego embrionu. W listopadzie 2018 r. chiński genetyk He Jiankui obwieścił, że miesiąc wcześniej na świat przyszły Lulu i Nana, dwie pierwsze znane nauce osoby „genetycznie modyfikowane”, noszące zmianę w genomie mającą uniemożliwić im zachorowanie na AIDS.

Grupa naukowców wezwała do moratorium na genetyczną edycję zarodków ludzkich, wyniki takie pobudzają jednak wyobraźnię. Jednym z popularnych lęków jest wizja świata, w którym można dowolnie kształtować ludzką inteligencję, atrakcyjność czy siłę fizyczną. Ponieważ ingerencje takie są i długo będą bardzo kosztowne, wyłania się wizja bogatych, genetycznie modyfikowanych nadludzi oraz biednej podklasy, która musi liczyć na zwycięski los na genetycznej loterii.

Nie uważam, aby miało do tego dojść. Po pierwsze, geny to nie wszystko. W przypadku inteligencji szacuje się, że genotyp wyjaśnia jej poziom mniej więcej w połowie. Reszta to czynniki środowiskowe. Nawet więc gdybyśmy złamali każdy sekret genomu i zrozumieli rozwój embrionu godzina po godzinie, komórka po komórce – od czego dzieli nas jeszcze naprawdę dużo – rodzic przyszłości chcący mieć „superdziecko” musiałby prowadzić rygorystyczną hodowlę, aby zapewnić kontrolę nad drugą połówką czynników statystycznych. To raczej nie jest realistyczny scenariusz.

A to i tak wcale nie najważniejszy problem. Rzecz w tym, że ani inteligencja, ani atrakcyjność, ani siła nie gwarantują szczęścia i sukcesu, co najwyżej zwiększają szansę ich osiągnięcia. Są na świecie tysiące osób równie inteligentnych, równie pięknych i równie silnych, z których tylko nieliczna garstka osiągnie wielki sukces. Co o tym zadecyduje? Nikt nie wie. Spotkanie z właściwą osobą w windzie, dobra koniunktura, nagłe olśnienie...

Gdy przejrzeć listę najbogatszych ludzi na świecie, w czołówce znajdziemy osoby takie jak Bill Gates i Mark Zuckerberg. Gdy Zuckerberg rodził się w 1984 r., nie tylko nikt nie mógł przewidzieć istnienia Facebooka, ale wręcz internetu w dzisiejszym sensie. Przy obecnym tempie rozwoju świata – ale też po prostu ze względu na jego zasadniczą chaotyczność – nie ma szans, aby przewidzieć, co zadecyduje o sukcesie rodzących się dziś dzieci. Trzeba by odczekać przynajmniej dwie dekady, żeby się przekonać, czy wprowadzone modyfikacje genetyczne przyniosły dziecku sukces – a nawet i wtedy będzie można tylko zgadywać, czy spowodowały to geny, wychowanie, pieniądze, czy łut szczęścia. Świata nie zmieni zaś wiedza o tym, że prawdopodobnie można nieco zwiększyć szansę na sukces swojego dziecka. Choć więc niektórzy pewnie zdecydują się na genetyczną modyfikację dzieci – podobnie jak niektórzy wydają fortunę na operacje plastyczne – nie stanie się to znaczącym zjawiskiem na mapie XXI wieku.

Może się jednak wydarzyć co innego: chodzi mianowicie o rutynowe likwidowanie wad genetycznych. Jesteśmy o włos od bezpiecznego usuwania z embrionu ludzkiego każdej spośród około sześciu tysięcy chorób jednogenowych, czyli wynikających z mutacji w jednym tylko genie. W październiku 2019 r. w „Nature” opisano już wykonanie za jednym zamachem 175 edycji ludzkiego genomu; autorzy szacują, że ich metodą można poprawić 89 proc. znanych nauce wariantów odpowiadających za choroby genetyczne.

Jest tu jednak interesujący haczyk: kluczowe znaczenie ma czas. Tylko w przypadku zapłodnienia in vitro istnieje dogodna możliwość nieśpiesznej pracy na pojedynczych komórkach. Oczyszczenie zarodka z chorób genetycznych mogłoby być więc oferowane jako dodatkowy pakiet przy leczeniu bezpłodności. W przypadku zapłodnienia naturalnego korekta dokonywałaby się na zagnieżdżonym embrionie, a każdy kolejny dzień ciąży znacząco utrudnia interwencję – ze względu na szybki przyrost liczby komórek, do których trzeba dotrzeć, ale i sam rozwój zarodka. Idea jest zaś taka, aby genom naprawić, zanim zaczną się przejawiać skutki chorób genetycznych.

Prowadzi to do ciekawej społecznie sytuacji, w której możliwe jest usunięcie chorób genetycznych – ba, nawet ich globalna eradykacja (!) – jednak wyłącznie przy nieustannym monitorowaniu stanu zapłodnienia. Oznaczałoby to potężny nacisk na społeczną kontrolę nad rodzicielstwem. Dodajmy, w charakterze technologicznej ciekawostki, jak konkretnie mogłaby się ona realizować. Istnieje już dziś możliwość monitorowania na żywo poziomu rozmaitych substancji we krwi. W 2018 r. opisano powstały z myślą o cukrzykach dyskretny, miękki implant informujący na życzenie o poziomie glukozy. Podobny implant, mierzący poziom gonadotropiny kosmówkowej – popularnego markera w testach ciążowych – mógłby kiedyś stać się czymś, co młodej kobiecie po prostu wypada mieć. Szybko wykryta ciąża, wizyta w klinice genetycznej, korekta. Proste. A kto tak nie robi – ten głupi i nieodpowiedzialny.

Dominacja maszyn

W 2015 r. grupa przedstawicieli świata nauki i technologii, m.in. Elon Musk, Steve Wozniak i Stephen Hawking, podpisała list otwarty w sprawie zagrożeń związanych z rozwojem AI. Z jej rosnącą mocą – głosi ów dokument – wiąże się ryzyko utraty kontroli. Sformułowanie, że pojawienie się superinteligentnej AI „może oznaczać koniec rasy ludzkiej”, pada nawet w popularnym podręczniku akademickim „Artificial Intelligence: A Modern Approach”. Bill Gates, zapytany w 2015 r. o przyszłość AI, odpowiedział: „Nie rozumiem, dlaczego są jeszcze ludzie, którzy nie czują niepokoju”.

Jak miałby wyglądać koniec świata wywołany przez sztuczną inteligencję? Niemal wszystkie scenariusze przewidują zajście dwóch procesów: osiągnięcia przez AI nadludzkiej inteligencji oraz jej uniezależnienia się od człowieka.

Ten pierwszy krok mamy już po części za sobą – pod warunkiem, że mówimy o wybranych, dobrze zdefiniowanych zadaniach, jak gra w szachy. Można by zaryzykować stwierdzenie, że w ciągu najbliższych lat AI osiągnie nadludzki poziom we wszystkich zadaniach, które da się na pewnym etapie sprowadzić do operowania na znakach i liczbach, i w których są jednoznaczne kryteria sukcesu. Co mieści się w tej kategorii? Niemal wszystkie gry, analiza danych, księgowość, stenografia, tłumaczenie... Lista zawodów, które – wg raportu UNDESA, agendy ONZ do spraw społecznych i gospodarczych – mogą w XXI wieku zostać opanowane przez AI, jest długa. Trudno jednak orzec, w jakim stopniu. Autorzy oceniają, ­przykładowo, że do 2040 r. odsetek miejsc pracy w Polsce, które zostaną przejęte przez automaty i AI, mieści się w przedziale... 7–56 proc.

To jednak wciąż tylko konkretne zadania. Nie jest jasne, jak miałaby wykształcić się tzw. ogólna sztuczna inteligencja, zdolna do zręcznego przeskakiwania między różnymi zadaniami, w dodatku spontanicznie, ze względu na szerszy, samodzielnie wyznaczony cel. Filozofowie i literaci lubią sobie wyobrażać, że w pewnym momencie algorytmy po prostu „klikną” i dojdzie do nagłego wyłonienia się w nich świadomości. Twórcy AI są jednak sceptyczni.

W „szczenięcych latach” AI panował wielki optymizm. W 1965 r. Herbert Simon, jeden z jej współtwórców, stwierdził, że „w ciągu dwudziestu lat maszyny będą zdolne do wykonywania każdej pracy ludzkiej”, i nie był w tym odosobniony. Wygląda jednak na to, że im więcej wiemy o AI, tym bardziej jest jasne, że przejście od zręcznego rozwiązywania problemów do intelektualnej samodzielności jest nieoczywiste. W 2006 r. na konferencję AI@50 zaproszono śmietankę światowych ekspertów, w tym ojców założycieli AI. Na pytanie, kiedy AI będzie w stanie naśladować wszystkie przejawy inteligencji ludzkiej, 41 proc. uczestników odpowiedziało „za więcej niż 50 lat”, a kolejne 41 proc. – „nigdy”.

Dołączam do sceptyków. Nie wierzę, aby AI miała nagle wybudzić się i stać się „kimś”. Zresztą nawet gdyby do tego doszło, nie boję się o losy ludzkości. Dla owej hipotetycznej, nadludzko szybkiej, rozproszonej świadomości człowiek byłby tworem równie mało interesującym i równie niegroźnym, co dla człowieka – dżdżownica. Czy fakt, że przekroczyliśmy intelektualnie dżdżownice, przekłada się z automatu na żądzę ich zniszczenia? Ponadto, z lekkim przymrużeniem oka rzecz biorąc, tempo ewolucji sztucznej inteligencji jest tak szybkie, że hipotetyczna „świadoma AI” w najwyżej kilka godzin po przebudzeniu stałaby się bodhisattvą, który pięć minut później osiągnąłby stan buddy – nie stanowiąc więc już dla nas zagrożenia. Jedynym zagrożeniem będzie dla nas, trwający pewnie parę minut, etap dzieciństwa, kiedy to rozbawione AI może po prostu z czystej ciekawości przeciąć dżdżownicę na pół, żeby popatrzeć, jak pełza.

To nie przebudzona AI powinna nas niepokoić, lecz raczej możliwości, które może uzyskać człowiek przy użyciu starej dobrej, narzędziowej AI. O tym jednak za chwilę.

Śmierć prywatności

Urządzenia mobilne to tak naprawdę przenośne detektory, za pomocą których generujemy gigantyczną ilość informacji: zdjęć, filmów, nagrań i tekstu; danych o naszym położeniu, kontaktach i odwiedzanych stronach internetowych; a także, coraz częściej, o naszym pulsie i poziomie aktywności fizycznej czy wręcz wynikach badań medycznych. Z wyszukiwarką dzielimy się wszystkim, od sfery publicznej po sekretną. Czy zgodzilibyśmy się udostępnić komukolwiek treść wszystkich zapytań, jakie wpisaliśmy kiedykolwiek do Google’a? Firmy takie jak Google czy Facebook niespecjalnie kryją się z tym, że dane te są agregowane i analizowane, tj. powstaje na ich podstawie indywidualny, syntetyczny profil każdej osoby, która „wpadnie w Sieć”.

Czego konkretnie moglibyśmy się obawiać? Najczęściej artykułuje się lęk przed upublicznieniem prywatnej sfery naszego życia, a wręcz jej stopniowy zanik i zagrożenie swego rodzaju despotycznym totalitaryzmem. W 2009 r. ówczesny prezydent Google’a Eric Schmidt powiedział: „Jeżeli jest coś takiego, o czym nie chcesz, aby wszyscy się dowiedzieli, być może nie powinieneś tego robić. (...) Prawda jest taka, że wyszukiwarki – w tym Google – przechowują te informacje (...) i jest możliwe, że wszystkie zostaną przekazane władzom”.

To wręcz niewyobrażalne, że takie słowa padły publicznie. A jednak. Oczywistą reakcją mediów było skojarzenie z „Rokiem 1984” Orwella, w którym obywatele ze względu na ciągłą inwigilację nie tylko nie robią rzeczy niestosownych, ale wręcz nie potrafią ich już wypowiedzieć i pomyśleć. Lęk jest realny. Ba, pojawił się już nawet ruch oporu, jak choćby „degooglerzy”, którzy próbują – co nie jest wcale proste – żyć tak, aby nie dostarczać Google’owi żadnych informacji na swój temat.

Lęki te trudno zbagatelizować. Władza wynikająca z posiadania gigantycznego zbioru danych o każdej osobie jest niewyobrażalna. Niektóre zagrożenia każdy może sobie wyobrazić sam, a o jednym, chyba nieco mniej intuicyjnym, opowiem za chwilę. Teraz chciałbym jednak krótko wyjaśnić, dlaczego n i e uważam, aby sytuacja ta miała doprowadzić do globalnego „kryzysu prywatności” i totalitarnego szantażu rodem z Orwella.

Przede wszystkim, szybko uczymy się korzystać z nowych technologii i jesteśmy coraz mniej naiwni. Rozporządzenia typu GDPR (w Polsce zwane RODO) realnie ograniczają możliwość gromadzenia danych – po jego wprowadzeniu Google stracił m.in. dostęp do treści wpisywanych do Gboard – wirtualnej klawiatury Google’a, z której korzysta wielu użytkowników smartfonów. Czesi w 2010 r. uniemożliwili pobieranie kolejnych zdjęć do Google Street View, a wygrane sprawy sądowe z Google’em (choć niestety na symboliczne kwoty) mają już za sobą rządy Węgier, Niemiec i USA. Choć lubimy sobie wyobrażać, że Google to wszechmocny szatan, który zawsze nas przechytrzy – bo perwersyjnie kochamy taką postać literacką – jest to uproszczenie.

Najważniejszy powód mojego sceptycyzmu wynika z podstawowych mechanizmów społecznych rządzących tabu. Tabu to bowiem błędne koło. W przestrzeni publicznej nie ma tego, co jest tabu. Czemu jednak coś jest tabu? Ponieważ nie ma tego czegoś w przestrzeni publicznej. Nie dłubiemy w nosie, nie obnażamy piersi i nie przeklinamy na ruchliwej ulicy nie dlatego, że są to rzeczy „z natury złe”, tylko dlatego, że nie robią tego inni. Gdyby zjawiska te występowały w przestrzeni publicznej, po pewnym czasie przestałyby być wstydliwe.

Zastanówmy się: jakie to właściwie repozytorium sekretów posiada Google na temat przeciętnego człowieka? Parę żenujących zdjęć z co bardziej przesadzonych spotkań towarzyskich, trochę fizjologii, sporo wulgarności i seksu. Myślę, że XXI wiek nie będzie erą końca prywatności. Raczej erą pogodzenia się z powszechnością „tych rzeczy”.

To nie jest tylko teoretyzowanie. Dotychczasowe przypadki nie świadczą o tym, by treści takie szczerze nas oburzały. Już dzisiaj odczuwamy przecież skutki wszechobecności kamer i mikrofonów. Istnieje w internecie gigantyczny zbiór nagrań przeklinających jak szewc dziennikarzy, pijanych prezydentów i muzyków przyłapanych z kreską kokainy. Nie ma tygodnia, gdy któryś z polityków nie ujawni mimochodem na Twitterze, że w jego przeglądarce tuż za zakładką z orzeczeniami Sądu Najwyższego czają się gołe baby. Naprawdę nie wygląda na to, abyśmy z tego powodu mieli zbiorowo spłonąć ze wstydu. Ba, kto wie, czy zjawisko to nie przełoży się ostatecznie na zdrowszy, dojrzalszy stosunek do kwestii takich jak pornografia czy narkotyki?

Straszna wiedza

Spróbuję na koniec wyartykułować scenariusz, który naprawdę daje do myślenia. Nie jest to wizja końca świata ani dystopii, lecz raczej negatywne zjawisko, które może stać się „znakiem rozpoznawczym” XXI wieku.

To lęk przed wiedzą.

Połączmy dwa wymienione już zjawiska: istnienie gigantycznego zbioru danych o ludziach oraz algorytmów z nadludzką zdolnością wykrywających porządek. Algorytmy te mają ponadto dość niepokojącą cechę: są niezrozumiałe dla człowieka. „Starą dobrą AI” pracowicie uczyliśmy myślenia ludzkiego; dziś algorytmy same dochodzą do rozwiązań, których skuteczność widzimy, jednak których logika nie jest dla nas przejrzysta. Ba, istnieje już cała gałąź badań poświęcona wyłącznie próbom przełożenia na ludzkie kategorie rozwiązań uzyskanych przez AI.

Przypuśćmy, że trenujemy AI na terabajtach zdjęć i filmów, danych z GPS, treści maili, każąc jej przewidzieć, kiedy dana osoba zmieni pracę, rozwiedzie się albo umrze. Dane treningowe mamy – to podzbiór osób, które rzeczywiście spotkał taki los. Skokowy wzrost jakości takich przewidywań nastąpiłby, gdyby algorytmy uzyskały dostęp do danych medycznych. I, niestety, scenariusz ten zaczyna się powoli spełniać. W kwietniu 2016 r. ujawniono, że Deep Mind Technologies, kupione w 2014 r. przez Google’a, podpisało z Royal Free London NHS Foundation Trust, dyspozytorem zapisów medycznych milionów brytyjskich pacjentów, umowę o udostępnienie niektórych danych właśnie dla celów trenowania AI. W listopadzie 2019 r. wyszło na jaw, że Google zawarł podobne porozumienie z amerykańską firmą Ascension, otrzymując miliony kart pacjentów: informacje o alergiach, szczepieniach, wyniki prześwietleń, zapisywane leki, diagnozy.

Przypuśćmy, że eksperyment się powiódł (co nie jest wcale oczywiste; AI to nie magia). Korzyści z istnienia tego typu systemu mogą być potężne. Wejdźmy w buty pacjenta, któremu daje się dwie możliwości: albo diagnozuje nas wyłącznie lekarz domowy, albo drugi głos otrzymuje superinteligentny system opisywany w „Nature” i „The Lancet”. Wystarczy kliknąć: „Zgadzam się na warunki usługi”. Algorytmy będą się zaś stawały tylko coraz lepsze. Przypuśćmy bowiem następnie, że uzyskanie komputerowej diagnozy wiązać się będzie ze zgodą na oddanie próbki śliny, dzięki czemu do naszej „karty” dołączy również sekwencja genomu. Gdy w grę wchodzi zdrowie i życie, chętnych nie braknie.

Teraz o lękach. Nadludzka wiedza może być przerażająca, a niewiedza ma swoją wartość. Kto grał kiedyś w szachy z komputerowym arcymistrzem, ten zna owo dziwne, straszne uczucie, gdy w pewnym momencie pojawia się wiadomość „Mat za 13 ruchów”. My nie zauważyliśmy jeszcze nic niepokojącego, jednak z okrutnej matematyki wynika, że mata w trzynastu ruchach uniknąć się nie da. Najlepsze, na co możemy liczyć po wykonaniu ruchu, to komunikat „Mat za 12 ruchów”.

Medycyna to oczywiście nie szachy, a diagnozy AI zawsze będą obarczone niepewnością. Pomyślmy jednak o sytuacji, w której my sami otrzymujemy od medycznego AI komunikat „Mat w trzech ruchach”. Gdyby powiedział to lekarz z przychodni, można by to zbagatelizować. Co jednak, gdy orzeka nadludzka superinteligencja? To jak głos Boga.

Reakcja społeczna na istnienie takiego systemu może być silna. I nie ma tu znaczenia jego rzeczywista skuteczność: wystarczy kilka udanych przepowiedni, odpowiednio rozgłoszonych przez media. Wystarczy, abyśmy wszyscy w tę nieomylną moc uwierzyli – bo wtedy zaczniemy się jej lękać: samej tej siły, ale przede wszystkim utraty poczucia sprawstwa. Cokolwiek bym zrobił – mat w trzech.

Drugim kłopotliwym obszarem zastosowania AI jest system sprawiedliwości. Już dziś występuje tendencja, aby przy wydawaniu wyroków brać pod uwagę poziomy hormonów, cechy neuroanatomiczne albo genetyczne. W 2009 r. włoski sąd zmniejszył o połowę wyrok za morderstwo, gdy okazało się, że sprawca posiada wersję genu MAOA, związaną ze zwiększoną skłonnością do zachowań agresywnych. Stawia to pod znakiem zapytania kwestię odpowiedzialności. Skoro sąd może uznać, że „częściowo winne” są geny, ponieważ w pewnym stopniu tłumaczą morderstwo, to czy w miarę coraz pełniejszego rozumienia przyczyn zachowań ludzkich przekonanie o ludzkiej wolności i odpowiedzialności za swe czyny nie będzie się zmniejszać do zera?

W obu przypadkach konflikt sprowadza się ostatecznie do starej filozoficznej pary: wiedza – wolność. XXI wiek będzie tym czasem, gdy coraz silniej zacznie nam ciążyć świadomość tego, że na naszych ramionach stale spoczywa zimny pazur Konieczności. My, ludzie, mało rzeczy cenimy zaś sobie bardziej niż Wolność. Jeśli na drodze do niej stanie nam Wiedza, reakcją może być niechęć do niej, lęk i agresja.

Przestraszony Homo sapiens to zaś naprawdę bardzo, bardzo niebezpieczne stworzenie. ©℗


Ludzie i liczby

2013 – pierwsza skuteczna edycja genomu myszy nowo odkrytą metodą CRISPR/Cas

2015 – udana edycja genów u niezdolnych do życia zarodków ludzkich; u 28 spośród 54 embrionów udało się zmodyfikować gen hemoglobiny w planowanym miejscu

2018 – w Chinach rodzą się pierwsze dzieci ze zmodyfikowanym biotechnologicznie genomem, dziewczynki o pseudonimach Lulu i Nana


2,7 mld – tyle osób, czyli mniej więcej jedna trzecia ludzkości, posiada własny smartfon

63 – przeciętny użytkownik smartfona tyle razy dziennie wchodzi z nim w interakcję

69% – taki odsetek użytkowników smartfonów korzysta z niego w ciągu 5 minut od obudzenia się


Oto w jakim tempie program AlphaGo uczył się japońskiej gry go:

0 godzin – AlphaGo zna tylko podstawowe formalne reguły gry, rozgrywa pierwszą nieporadną partię sam ze sobą

47 godzin – AlphaGo odnajduje pierwsze joseki, czyli narożne układy kamieni, nieznane ludzkim graczom

96 godzin – AlphaGo potrafi już pokonać każdego człowieka

Dziękujemy, że nas czytasz!

Wykupienie dostępu pozwoli Ci czytać artykuły wysokiej jakości i wspierać niezależne dziennikarstwo w wymagających dla wydawców czasach. Rośnij z nami! Pełna oferta →

Dostęp 10/10

  • 10 dni dostępu - poznaj nas
  • Natychmiastowy dostęp
  • Ogromne archiwum
  • Zapamiętaj i czytaj później
  • Autorskie newslettery premium
  • Także w formatach PDF, EPUB i MOBI
10,00 zł

Dostęp kwartalny

Kwartalny dostęp do TygodnikPowszechny.pl
  • Natychmiastowy dostęp
  • 92 dni dostępu = aż 13 numerów Tygodnika
  • Ogromne archiwum
  • Zapamiętaj i czytaj później
  • Autorskie newslettery premium
  • Także w formatach PDF, EPUB i MOBI
79,90 zł
© Wszelkie prawa w tym prawa autorów i wydawcy zastrzeżone. Jakiekolwiek dalsze rozpowszechnianie artykułów i innych części czasopisma bez zgody wydawcy zabronione [nota wydawnicza]. Jeśli na końcu artykułu znajduje się znak ℗, wówczas istnieje możliwość przedruku po zakupieniu licencji od Wydawcy [kontakt z Wydawcą]
Filozof przyrody i dziennikarz naukowy, specjalizuje się w kosmologii, astrofizyce oraz zagadnieniach filozoficznych związanych z tymi naukami. Pracownik naukowy Uniwersytetu Jagiellońskiego w Krakowie, członek Centrum Kopernika Badań Interdyscyplinarnych,… więcej

Artykuł pochodzi z numeru Nr 1-2/2020