Wiecie, co jest najbardziej niepokojące w sztucznej inteligencji?

Kiedy Kyle Reese próbuje uświadomić Sarze Connor, że ścigający ją mężczyzna, wbrew pozorom, wcale nie przypomina człowieka, mówi mniej więcej coś takiego: „Nie da się z nim pertraktować, nie czuje litości, żalu ani strachu i nic, absolutnie nic go nie zatrzyma”. Wprawdzie matkę przyszłego wyzwoliciela ludzkości przekonują ostatecznie inne, znacznie bardziej praktyczne argumenty – nie lekceważy ona jednak tej charakterystyki. I my również nie powinniśmy jej lekceważyć.

Owszem, rację mają ci, którzy narzekają, że „Terminator” (1984) w reżyserii Jamesa Camerona – z którego pochodzi przywołana scena – stał się domyślnym punktem odniesienia dla znacznej części spekulacji i fantazji dotyczących sztucznej inteligencji. I że w związku z tym, być może, marnujemy tylko czas i energię na jakieś deliberacje o buncie maszyn oraz cyborgach przejmujących władzę nad światem, a tracimy z oczu sprawy realne i istotne. Na przykład zanikanie kompetencji poznawczych w tych obszarach, w których już wyręczają nas chatboty, czy zamazywanie granic pomiędzy wirtualnym a niewirtualnym.

Philip K. Dick, Ursula Le Guin i przepowiednie science fiction

Wszystko to prawda, wiadomo, że hollywoodzkie scenariusze działają na wyobraźnię lepiej niż jakaś tam rzeczywistość. Niemniej literatura i kino science fiction to przepastny magazyn naszych pragnień i obaw, a jednocześnie coś na kształt suchej zaprawy przed tym, co nadchodzi. Nawet jeśli nikomu jeszcze nie udało się przewidzieć przyszłości, to z pewnością niejednemu udało się wychwycić niewidoczne na pierwszy rzut oka trendy, specyficzności, kierunki rozwoju. I dlatego lektura książek Philipa K. Dicka czy Ursuli Le Guin może być dzisiaj zajęciem jak najbardziej poznawczo wydajnym, odsłaniającym istotne prawdy o świecie tu i teraz, bez względu na mnóstwo nietrafionych profecji, których w tej prozie oczywiście również nie brakuje.

„Stephen Hawking przestrzegał, że niebawem zimne rachowanie i maszynowa kalkulacja będą zastępować sumienie”

Tak właśnie sprawy się mają z „Terminatorem”. Z jednej strony bunt maszyn ewidentnie jest mało prawdopodobny (chociaż kto wie, kto wie…). Z drugiej strony – tych kilka przytoczonych na początku zdań opisujących postać odgrywaną brawurowo przez Arnolda Schwarzeneggera dotyka czegoś zasadniczego. I nie chodzi wcale o urządzenia, które niestrudzenie na nas polują, choć można przypuszczać, że rozwój technologii militarnej opartej na AI doprowadzi i do tego. Skądinąd już lata temu Stephen Hawking przestrzegał, że niebawem zimne rachowanie i maszynowa kalkulacja będą zastępować sumienie, także na polu walki, także w kontekście wojny. Kiedy wybitny fizyk wypowiadał te słowa, była to dla wielu abstrakcja rodem, no właśnie, z fantastyki, dziś są to rzeczy coraz wyraźniej dookoła widoczne.

Nauczyciel, psychoterapeuta, powiernik. Jak już dziś traktujemy AI?

Nie chodzi jednak, powtórzę, o kwestie militarne. Ta specyficzna uporczywość, niestrudzoność, nieustępliwość, niespożyta determinacja, radykalna zawziętość, o której mówił Kyle Reese – to przecież cechy znanej nam sztucznej inteligencji, tyle że wprzęgnięte, przynajmniej na razie, w inne zadania i cele, w inną architekturę. Obcujemy z nią niemal na każdym kroku. Na przykład – usiłując złożyć reklamację w aplikacji. Albo prowadząc konwersację z chatbotem występującym w dowolnej roli: nauczyciela, powiernika, psychoterapeuty, doradcy czy kogokolwiek (a może raczej czegokolwiek) innego.

Ten chatbot nigdy się nie męczy, nigdy nie ma dość, zagadnięty o dowolnej porze gotów jest kontynuować konwersację rozpoczętą nawet dawno temu. Wróci do niej momentalnie, wszystko pamięta, zawsze zada jeszcze kilka dodatkowych pytań. A przy okazji tych nieszczęsnych reklamacji nigdy się nie zirytuje, nie odezwie impetycznie i po chamsku, wytłumaczy tysiąc razy te same kwestie. Tyle że nie drgnie nawet o włos, nigdy nie zmieni zdania, nie ustąpi, nie okaże współczucia. Podobnie nigdy nie drgną inne autonomiczne systemy. Te, które już funkcjonują – przyznają kredyty, rozpatrują wnioski, szacują prawdopodobieństwa w procesie ustalania stawki ubezpieczenia zdrowotnego – i te, które zafunkcjonują w przyszłości.

Najbardziej niepokojący aspekt sztucznej inteligencji

I właśnie to mi się wydaje jednym z najważniejszych, a zarazem najbardziej niepokojących aspektów upowszechniania się technologii opartej na sztucznej inteligencji. Pojawienie się w kulturze, w sieci naszych formalnych i nieformalnych interakcji – tam, gdzie kształtuje się porządek społeczny i rozstrzygają, w sensie przenośnym i dosłownym, nasze losy – aktywnego uczestnika gry, którego charakteryzuje taka uporczywość, niespożytość, nieustępliwość, zawziętość, całkowity brak emocji i współczucia.

„Sztuczna inteligencja nie drgnie nawet o włos, nigdy nie zmieni zdania, nie ustąpi, nie okaże współczucia”

Nie to, żeby ludzie mieli go aż tak wiele. Nie to, żeby ludzie nie zachowywali się zbyt często dokładnie w taki sam sposób. Ludzie jednak mają to do siebie, że się prędzej czy później męczą, niecierpliwią, tracą zainteresowanie, zużywają, wypalają, starzeją, umierają. A poza tym – niekiedy zmieniają zdanie, niekiedy sami się głęboko zmieniają. Czasami pod wpływem impulsu, czasami pod wpływem poruszeń serca albo sumienia. A nawet jeśli nie chcą lub nie mogą się zmienić, w końcu przychodzą po nich inni, lepsi lub mądrzejsi. Nie ma na to, oczywiście, reguły, ale zawsze jest taka możliwość.

No więc niewykluczone, że już wkrótce ta możliwość zniknie albo wyraźnie się skurczy. I tego rzeczywiście należy się bać. Znacznie bardziej niż buntu maszyn czy jakichś ścigających nas cyborgów z karabinami.