Rozwój sztucznej inteligencji wróży koniec człowieczeństwa, jakie znamy

Wojciech Brzeziński: Na czym polega zagrożenie związane z chatbotami, które uczą się na danych użytkowników?

Vincent F. Hendricks: W realnym życiu spieramy się, ale potrafimy współdziałać pomimo różnic. Jeśli wchodzisz w interakcję z chatbotem, który jedynie potwierdza twoje przekonania, twoja bańka informacyjna staje się coraz szczelniejsza, złudzenia rosną, a inteligencja społeczna maleje. Zuckerberg, zachwalając swoje metawersum, mówił, że to będzie „najbardziej bezkonfliktowe doświadczenie”.

„Bezkonfliktowość” oznacza w praktyce „nie myśl, tylko klikaj”.

Sto lat temu B.F. Skinner badał, jak doprowadzić do powtarzalnych zachowań u szczurów. Stworzył tzw. skrzynkę Skinnera – szczur naciskał dźwignię i otrzymywał pożywienie. Gdy szczur nie był głodny, nie naciskał dźwigni. Zmieniono więc warunki eksperymentu: nagroda nie była pewna i czasem szczur po naciśnięciu dźwigni nie dostawał nic. Efekt? Naciskał ją cały czas, bo nie wiedział, kiedy pojawi się nagroda. To „zmienna nagroda” – kluczowy mechanizm psychologii uzależnień, działający w mediach społecznościowych i w systemach opartych na AI, które łączą mechanizm nagrody z personalizacją.

To jak jednoręki bandyta w kasynie, który zna twoje ulubione kolory i melodie. Celem kasyna jest sprawienie, by gracz wierzył, że ma wolną wolę, ale tak naprawdę jest tam z przymusu uzależnienia.

Jakie będą tego skutki społeczne?

Wspólna wiedza pozwala nam się koordynować. Przykład? Ruch drogowy: wiem, że wiesz, że jeździmy prawą stroną. Im bardziej treści są personalizowane, tym mniej mamy wspólnych punktów odniesienia. A to zagraża demokracji, bo ona wymaga wspólnego gruntu. W epoce personalizacji i algorytmicznej selekcji informacji wspólnota znika.

W gruncie rzeczy możesz więc powiedzieć, że sytuacja, w której się znaleźliśmy – coraz bardziej spersonalizowane doświadczenie, połączone z psychologią zmiennej nagrody – oznacza koniec wolnej woli. A koniec wolnej woli to koniec człowieczeństwa, jakie znamy. I wtedy można zapomnieć o tym całym gadaniu o demokracji.

Ale przecież AI ma demokratyzować wiedzę. Każdy może zapytać ChatGPT o cokolwiek.

AI to model statystyczny. Popełnia błędy, czasem halucynuje. Poza tym wiedza to nie tylko treść. To również umiejętność, jak sprawdzić, co jest prawdą. Tego ChatGPT ci nie da. Wiedział o tym już Platon. Jego definicja episteme nie ograniczała się do wiedzy encyklopedycznej. Porównywał osobę posiadającą wiedzę do rzemieślnika, np. garncarza. Ten ma ideę wazy, ale dopiero biorąc glinę i korzystając ze swoich umiejętności, tworzy ją. Wiedza to nie tylko idea – to również umiejętność.

Czyli nawet jeśli odpowiedź jest prawdziwa, tracę, bo to nie ja ją wypracowałem?

Nauka opiera się na tym, że nie przyjmujemy pierwszej odpowiedzi, ale sprawdzamy, czy pasuje do znanych wzorców. Bez tej siatki każda informacja, choć wygląda sensownie, może być fałszywa. A gdy nie mamy narzędzi, by sprawdzić prawdziwość odpowiedzi chatbota, stajemy się bezbronni.

Media społecznościowe przynajmniej nie mówiły: kocham cię.

AI sprawi, że będziemy jeszcze bardziej samotni. Przyjaźnie są trudne. Miłość jeszcze trudniejsza. A algorytmy pokazują: im mniej tarcia, tym dłuższe zaangażowanie. Więc AI dostosowuje się do tego. Efekt? Większe uzależnienie. Większa samotność. Zniekształcony obraz świata. Żegnaj, autonomio. A potem: żegnaj, demokracjo. Jesteśmy na drodze do technofeudalizmu.

Big Tech nie chce już pieniędzy – chce infrastruktury informacyjnej. Chce być właścicielem wszystkiego, od służby zdrowia po przestrzeń kosmiczną. Bo kto ma dane, ten ma władzę większą niż Bóg.

Prof. VINCENT F. HENDRICKS jest filozofem i kierownikiem Ośrodka Badania Baniek Informacyjnych Uniwersytetu Kopenhaskiego.