Pucz za weneckim lustrem

RAFAŁ WOŚ: Walka o dominację w cyfrowym świecie weszła na nowy poziom. Facebook i Twitter wyłączyły konto – wciąż jeszcze wtedy urzędującemu – prezydentowi USA, a Google poszedł na wojnę z rządem Australii, bo nie spodobały im się plany tamtejszych władz.

SHOSHANA ZUBOFF: Z Trumpem czy władzami Australii można się zgadzać albo nie. Ale jednak są lub były to rządy dysponujące demokratycznym mandatem wyborców. A jaki mandat mają ­Facebook, Google albo Apple, żeby dyktować swoje warunki demokracjom? Kto dał ­Zuckerbergowi z Facebooka czy ­Cookowi z Apple’a takie prawo?

Oni twierdzą, że są u siebie. Ich aplikacja, ich wyszukiwarka, więc mogą z nimi robić, co im się podoba.

Dobre sobie. Najpierw zabrali nasze dane, nie pytając nikogo o zdanie. A potem dorobili się na obracaniu tymi danymi wielkich fortun. I dziś sprawują absolutną kontrolę nad czymś, co jest w tej chwili krytyczną infrastrukturą informacyjną współczesnego świata.

Co Pani ma na myśli?

Choćby systemy operacyjne iOS oraz Android dla urządzeń mobilnych. Albo cała aplikacja Facebooka czy maszyneria wyszukująca Googla’a. To powinny być dobra wspólne, bo ich status bierze się z posiadania naszych wspólnych danych. A nie – prywatne wehikuły służące do akumulacji władzy przez kilka korporacji.

No ale technologie należą do ­Google’a, Apple’a, Facebooka czy Amazona. Czyli do GAFA.

Nie dajmy się zagadać specjalistyczną nowomową. Cyberprzestrzeń to nic szczególnego. To maszyny, przewody, trochę minerałów, algorytmy, ludzie. I, oczywiście, kapitał.

Nie ma żadnego powodu, by traktować akurat ten rynek jakoś inaczej. I wyjmować go z ogólnie obowiązujących norm demokratycznego społeczeństwa. Jak długo będziemy się godzić z tym, że tzw. cyberprzestrzeń powstała w wyniku wielkiego skoku – czyli uwłaszczeniu się cyfrowego kartelu GAFA – na naszych danych? Na całej tej „nadwyżce behawioralnej”, bez której te wszystkie systemy operacyjne, aplikacje i wyszukiwarki byłyby bezwartościowe.

Kiedy to się właściwie wydarzyło?

Da się tu wskazać dość precyzyjne ramy czasowe. Dwadzieścia lat temu pękła tzw. bańka dot-comów...

Przypomnijmy, że to był moment, gdy na giełdach całego świata nagle skończyła się euforia inwestorów dotycząca potencjału tkwiącego w pierwszych firmach z branży technologii internetowej. Inwestorom przestała wystarczać mglista obietnica przyszłych zysków. Zaczęli się domagać konkretów: „Na czym będziemy zarabiać? I ile?”.

Firmy takie jak Google były wówczas o włos od zniknięcia w mrokach historii. Ale około 2000 r. – Google wyszedł z pomysłem, żeby pompować zyski reklamowe, wykorzystując ekskluzywny dostęp do danych na temat użytkowników jego wyszukiwarki. W połączeniu z istniejącymi już wtedy możliwościami analitycznymi komputerów można było w ten sposób precyzyjnie przewidywać, które reklamy mają największe szanse na wyświetlenie u użytkownika. W ten sposób Google zaczął coś, co ja nazywam przechwyceniem „nadwyżki behawioralnej”. Czyli – krótko mówiąc – danych na temat tego, co robimy w sieci. Wokół tej nadwyżki zaczęli budować nowe, niezwykle agresywne formy zarabiania pieniędzy. Tak powstał mechanizm akumulacji wiedzy o nas. A co za tym idzie, także władzy. Na początku działo się to w zupełnym sekrecie. Dopiero w roku 2004 Google – wchodząc na giełdę – musiał podzielić się ze światem paroma informacjami. Np. tym, że w latach 2000–2004 ich „renta ze zgarnięcia naszej nadwyżki behawioralnej” sięgnęła w tym okresie... uważa pan?

Tak, uważam.

...3500 proc. O tyle wzrosły dochody reklamowe Google’a w tym pionierskim okresie. To była żyła złota. Model ten wyszedł z Google’a razem z Sheryl Sandberg, która w 2007 r. przeniosła się na kierownicze stanowiska do Facebooka. W ten sposób, niczym drapieżnik, który nie napotyka na żadnych naturalnych wrogów, ten model łupieżczego działania stał się drogowskazem dla reszty rynku.

Jaki to model?

Bardzo prosty. Wręcz prostacki. Bierz dane, handluj nimi, wyciskaj, ile się tylko da. Jak cię złapią – mów, że to nie twoja ręka. Korzystaj z braku świadomości po stronie użytkowników. Jak się zorientują, to utrudniaj, jak tylko możesz, ignoruj wszystkich, którzy próbują się opierać tak długo, jak tylko się da. I cały czas stawiaj wszystkich przed pozornym wyborem: albo dacie nam to, czego chcemy, albo nie możecie korzystać z naszych zabawek. Jednocześnie kształtuj rynek tak, żeby od twoich zabawek w zasadzie nie było ucieczki. I żeby prawdziwy wybór brzmiał: albo dajesz nam to, czego chcemy, albo jesteś wykluczony. Z komunikacji, ze zdobywania informacji, ze wspólnoty i co tu dużo mówić... z życia.

Albo jesteś u nas, albo nie ma cię wcale.

No właśnie. Oczywiście, dziś już nie jest tak, że tylko GAFA korzysta z tego systemu. Dziś zgarnianie i handel naszymi danymi, preferencjami czy doświadczeniami obecne są w każdej dziedzinie życia. W ubezpieczeniach, finansach, ochronie zdrowia, edukacji, handlu nieruchomościami, w polityce.

Jakiś przykład?

Jednym z moich ulubionych – i najbardziej przewrotnych – przykładów takiego działania jest Ford Motor Company. Sto lat temu kapitaliści w stylu Henry’ego Forda odkrywali, jak wielkie zyski leżą w masowej produkcji, która – ze względu na skalę – umożliwiała wytwarzanie przedmiotów po cenie dostępnej dla masowego odbiorcy. Ford rozumiał, że masowa produkcja była rezultatem – a nie przyczyną – nowej epoki popytu w bogacącym się amerykańskim ­społeczeństwie. Korzystne było to, że podaż i popyt szły u Forda razem – jak doskonale się uzupełniający bliźniacy. A klienci i pracownicy byli w tym modelu połączeni w cyklu produkcji i sprzedaży, który godził ze sobą towary po przystępnej cenie z dobrymi płacami, które pozwalały na nabycie tych towarów.

Czytaj także: Monopol na sprawy ważne dla całych społeczeństw ma dziś kilka prywatnych firm. A one znalazły się właśnie w punkcie zwrotnym – nie wiemy tylko, czy na lepsze, czy na gorsze.

Gdyby Henry Ford dożył dzisiejszego dnia, to mógłby się nieźle zdziwić, słuchając swojego odległego następcy Jima Hacketta, który kierował firmą w latach 2017–2020. Otóż receptą Hacketta na spadek sprzedaży Forda było to, żeby jego firma stała się... kolejnym Googlem i Face­bookiem. Zgodnie z tą wizją Ford powinien był dać sobie spokój z robieniem aut, a zacząć monetyzować strumienie danych. Dokładnie według tego samego modelu, co Google: zasysać dane od milionów ludzi, którzy na całym świecie jeżdżą fordami. Kiedy już klienci zostaną wynalezieni na nowo jako źródło danych, trzeba – to ciągle argumentacja Hacketta – sprząc te przekazywane w czasie rzeczywistym dane z danymi finansowymi zassanymi skądinąd. W ten sposób firma wie, co ludzie robią, gdzie pracują, z kim się spotykają, gdzie mieszkają. Jeśli tymi danymi odpowiednio obrócić, Ford nie będzie już potrzebował tych wszystkich inżynierów, fabryk, sprzedawców i salonów. Zostaną mu dane. I zyski. Ford stanie się Googlem. Panem na danych.

Ale wielu przedsiębiorców już to robi. Tak działają producenci inteligentnych domów. Temu służą inwestycje w inteligentne miasta.

Tak jest. To właśnie staram się w moich tekstach i wystąpieniach tłumaczyć. Że nie chodzi tylko o sympatię czy antypatię do tego czy innego superbogatego giganta z Doliny Krzemowej. Chodzi o zupełnie nowy system, który nam zafundowali. Żyjemy już w kapitalizmie nadzoru.

Dlaczego „kapitalizm nadzoru”?

To nie jest ani publicystyczna przesada. Tylko dokładny opis rzeczywistości, w której żyjemy ja, pan i ci, którzy naszą rozmowę czytają. Kapitalizm nadzoru jest jak weneckie lustro. Firmy wiedzą wszystko o swoich odbiorcach. Ale odbiorcy nie wiedzą prawie nic o obserwujących. To, o co teraz toczy się gra, to stworzenie dominacji na miarę XXI w. O końcu demokracji wiele się ostatnio mówi. Ale szukanie jej przyczyn odbywa się nie tam, gdzie trzeba. Trwa tropienie faszyzmu czy populizmu.

To gdzie szukać?

Nowy system opresji nie przypomina tego starego – XX-wiecznego. Kapitalizm inwigilacji nie potrzebuje żołnierzy ani siania terroru. Nowi władcy nie przychodzą z karabinem. Oni przynoszą ci cappuccino. Takie, jak lubisz, i wydawało ci się, że tylko ty wiesz, jakie lubisz najbardziej. A może jest tak, że ty lubisz to cappuccino, bo oni ci zabrali cały wybór? Ten system rządzi mięciutko poprzez subtelne mechanizmy kontroli naszych poczynań. Poprzez manipulowanie podprogowe, komunikację dopasowaną do wiedzy o naszych psychologicznych preferencjach, zawężanie naszego pola wyboru albo nagradzanie czy karanie zachowań, by osiągnąć cele zgodne z życzeniami manipulującego. Gdyby choć część z tych posunięć stosowały rządy – ależ byłby dym!

I słusznie.

Pewnie, że słusznie. Dawne reżimy próbowały narzucić swoją wizję świata. Taka była ich eschatologia: nasz ład zapewni wam zbawienie na ziemi. Nowi władcy nie próbują narzucić żadnej obowiązującej zasady. Nie interesuje ich też w żaden sposób zbawienie czyjejkolwiek duszy – tu na ziemi, czy też w jakimkolwiek innym świecie. Nie oferują też żadnej wyrazistej ideologii, z którą można by podjąć otwartą rozmowę. Ich interesuje tylko czysty i niczym niezmącony zysk. To rynkowy projekt, który w oparciu o cyfrowe narzędzia tworzy unikalny w historii poziom dominacji. Oni nie operują środkami bezpośredniego przymusu. Ich przymus jest ukryty za zasłoną modyfikacji zachowań. Ale to jest pucz!

Ale przecież pucz to zamach stanu. Niezgodne z porządkiem konstytucyjnym, często z użyciem siły przejęcie władzy politycznej. A tutaj?

Dokładnie to się teraz dzieje. Tylko nie w formie wojskowego czy pałacowego przewrotu. Lecz właśnie poprzez pucz – poznawczy.

Pucz poznawczy? Co to znaczy?

Ten pucz polegał na przejęciu i ugruntowaniu władzy przez cyfrowy kartel. Pierwszym etapem był szybki wzrost nierówności poznawczych. Albo – nazywając to samo innymi słowami – „wzrost nierówności wiedzy”. Chodzi o przepaść pomiędzy tym, co wiedzą obywatele, a tym, co wiedzą o obywatelach firmy z cyfrowego kartelu. To już się stało. Już sobie wzięli te dane.

Czyli ten etap puczu się powiódł?

Bez wątpienia. Teraz przeżywamy etap drugi. Nazywa się poznawczym chaosem. W pandemii jego wymiar stał się zabójczy.

Dlaczego?

Pokażę to na przykładzie. W październiku 2020 r. powstało badanie, które próbowało oszacować, jakiego odsetka zgonów z powodu COVID-19 można było uniknąć. Na tamtym etapie ogólna liczba ofiar koronawirusa sięgała 217 tys. Autorzy badania, o którym mówię, twierdzili, że jakieś 140-200 tys. spośród tych 217 tys. zgonów można było uniknąć.

Jak?

Autorzy badania wskazali na kilka zasadniczych powodów takiego stanu rzeczy. Wśród nich znajdujemy np. odrzucenie przez wielu ludzi dystansu społecznego, sprzeciw wobec noszenia masek czy wreszcie polityzację – a co za tym idzie polaryzację – informacji na temat koronawirusa. Zwróćmy uwagę, że każda z tych przyczyn jest w dużym stopniu spowodowana właśnie panującym chaosem poznawczym. Nośnikiem tego chaosu były zaś właśnie platformy, o których tutaj mówimy: z Facebookiem czy Googlem na czele. Tylko że – oczywiście – oni nigdy nie czują się winni.

Wiadomo. Winny był Trump i jego otoczenie.

Badacze z Uniwersytetu Cornella twierdzą, że jakieś 40 proc. covidowej dezinformacji to efekt działania prawicy – w tym tej okołotrumpowskiej sieci influencerów i innych multiplikatorów. Stawianie tu kropki jest oczywiście bardzo wygodne i oznacza, że Facebookowi i innym znów się udaje umknąć odpowiedzialności. Choć przecież nie jest żadną tajemnicą, że to właśnie ich algorytmy są jak pompa zasysająca dezinformację i rozprzestrzeniająca ją na wszystkie możliwe strony. To nie jest efekt uboczny ich działania. Oni tak zarabiają pieniądze. Przecież mówimy teraz o fundamencie ich potęgi. Oni nam mówią: kłóćcie się, nienawidźcie się! Co tak słabo?! Mocniej, bo nikt nie usłyszy! Dla nich to oznacza więcej ekstrakcji danych, które mogą potem z zyskiem sprzedać. W ten sposób poznawczy chaos zastępuje normalną komunikację. Ten chaos wszedł w miejsce zajmowane kiedyś przez opinię publiczną. Zastąpił komunikację ułożoną według ucierających się reguł społecznego współżycia. Macie w Polsce ostrą polaryzację polityczną, zdaje się.

Owszem, coraz ostrzejszą.

Nie stało się tak przypadkiem. Politycy, komentatorzy czy blogerzy nie stali się nagle bardziej agresywni. Firmy tak to poustawiały, bo jest dla nich dobre.

Ale dlaczego?

Teraz zamiast przestrzeni publicznej mamy ich przestrzeń prywatną. ­Google czy Facebook często mówią, że tak wygląda wolność słowa. Bzdura – to jest tylko ich sprywatyzowana wolność słowa. Która nie ma nic wspólnego z tym, co orzekł na początku XX wieku amerykański Sąd Najwyższy, że chodzi o wolny i uczciwy rynek wymiany idei. Dziś mamy przestrzeń, która jest zorganizowana wokół ekonomicznych interesów i imperatywów w warunkach kapitalizmu inwigilacji. Covid stworzył tło, na którym te imperatywy i mechanizmy stały się zabójcze. Były zresztą niebezpieczne już wcześniej, ale na mniejszą skalę. Teraz faktycznie mordują. ­Facebook jest współczesnym polem śmierci dla prawdy. Najdosłowniej ociekającym krwią. A teraz nadchodzi etap trzeci.

Czyli co?

Teraz GAFA jest w fazie ustanawiania poznawczej dominacji. Te wydarzenia, o których mówiliśmy na początku naszej rozmowy – odcięcie prezydenta USA czy wojna Google’a z rządem Australii – są paroksyzmem tego procesu. Takim momentem był też kwiecień ubiegłego roku, gdy Apple odmówił współpracy z Komisją Europejską w sprawie wspólnych unijnych rozwiązań wykorzystujących lokalizację użytkowników telefonów do ochrony przed rozprzestrzenianiem koronawirusa. Szef Apple’a Tim Cook po prostu powiedział „nie”. Więcej – cyfrowy kartel wykorzystał swoją PR-owską potęgę do przedstawienia unijnych planów jako „zamachu na prywatność” i chęć rządów do stworzenia „nowego wielkiego brata”. Chodziło im o to, by utrzymać status quo, w którym Apple, Facebook i Google faktycznie mają monopol na bycie wielkim bratem. Konkurencja ze strony demokratycznych rządów na jakimkolwiek polu nie jest przez nich mile widziana.

Da się coś zrobić?

Wreszcie powstała świadomość zagrożenia. Narracja, w myśl której cyfrowy ekosystem zamieszkują „technologiczne równiachy” i nieszkodliwi marzyciele, których jedynym celem jest tworzenie innowacji i rozwoju, mocno się chwieje. To ważne, bo odbiera Zuckerbergowi i innym moralne alibi do robienia tego, co robią. Coraz więcej ludzi zdaje sobie sprawę, że to, co pokazuje im Google, i miejsca, do których prowadzi ich Facebook, to jest fałsz i szkodliwa fikcja.

Co dalej?

Dalej musi pójść wysiłek regulacyjny. Państwa muszą przystąpić do kontrataku. Z nadzieją patrzę na to, co się dzieje w Europie. Na wysiłki Komisji Europejskiej.

A Ameryka?

Z Ameryką jest ten problem, że kolejne rządy: czy to Obamy, czy też Trumpa, nie chciały – z różnych przyczyn – iść na wojnę z cyfrowym kartelem.

Sądząc po poparciu, jakiego prezydentowi Bidenowi udzieliła Dolina Krzemowa, oraz po wielu osobistych związkach pomiędzy technologicznym establishmentem a nową administracją, nie ma co liczyć na zmianę w tej kwestii.

Niestety, podzielam pańską opinię. Kojarzy pan Erica Schmidta?

Były dyrektor wykonawczy ­Google’a w latach 2001-11 i sto któryś najbogatszy człowiek świata.

A jednocześnie człowiek, który swego czasu wprowadził programowanie wielkiej polityki z danych zwykłych ludzi, pomagając w ten sposób prezydentowi Obamie w uzyskaniu elekcji. Tenże Schmidt powiedział ostatnio, że próba regulacji działania sektora big tech będzie zniechęcała do innowacyjności. Zapamiętajmy ten argument, bo przy jego pomocy cyfrowy kartel będzie się bronił przed jakąkolwiek próbą ograniczenia ich potęgi.

Na szczęście nie jesteśmy politykami i możemy pokusić się o projektowanie rozwiązań w oderwaniu od ograniczeń. Co trzeba zrobić?

Trzeba – po pierwsze – zabezpieczyć prawa obywateli i instytucji publicznych. Proces darmowego wysysania z nas naszej „poznawczej nadwyżki” musi być przerwany. Po drugie, trzeba minimalizować szkody, które już się dokonały. Po trzecie – następne generacje muszą dostać bardziej sprawiedliwą cyberprzestrzeń niż dzisiejsza. Po czwarte, musi być jasne, że cyfrowy kartel i w ogóle prywatne firmy technologiczne nie tworzą innowacji same z siebie. Tylko korzystają z infrastruktury, którą dają im państwa. W związku z tym argument „to jest moja platforma” albo „to jest moja wyszukiwarka” nie może i nie powinien mieć zastosowania. Po piąte wreszcie, nie można wierzyć cyfrowemu kartelowi na słowo. Powiedzą wszystko, co tylko chcemy usłyszeć. Kiedyś Eric Schmidt na wszelkie sposoby zapewniał, że Google poważnie traktuje naszą prywatność. I w pewnym momencie powiedział, że oni nie sprzedają danych ludzi. Zaczęłam się zastanawiać, czy może się przesłyszałam. Ale nie. On tak powiedział. Choć przecież cały ich model opiera się właśnie na sprzedawaniu danych ludzi.

A co z argumentem, że nie wolno stawać na drodze nowoczesności?

Odpowiadam na to: demokracja musi rządzić. A zbieranie danych o naszych zachowaniach w sieci i poza nią musi być poddane zasadom demokratycznej kontroli. To nie jest argumentacja antycyfrowa. To jest pozytywna procyfrowa argumentacja, która ma nam pomóc wyjść z klatki, w której zostaliśmy zamknięci. ©

SHOSHANA ZUBOFF (ur. 1951) jest emerytowaną profesor Uniwersytetu Harvarda. Przez cztery dekady swojej naukowej kariery badała związki psychologii społecznej i filozofii z rozwojem technologii, internetu oraz sztucznej inteligencji. Jej najważniejsza książka „Wiek kapitalizmu inwigilacji. Walka o przyszłość kapitalizmu na nowej granicy władzy” ukazała się w przekładzie Alicji Unterschuetz w wydawnictwie Zysk i S-ka.