Wielki Brat was rozliczy

Stan zaawansowania prac nad polskim Wielkim Bratem wydaje się dziś nie do ustalenia. Ale wystarczy przyjrzeć się temu, co służby mają na wyciągnięcie ręki. Strach pomyśleć.

28.05.2018

Czyta się kilka minut

 / EYESWIDEOPEN / GETTY IMAGES
/ EYESWIDEOPEN / GETTY IMAGES

Pasek postępu niemrawo pełznie w stronę prawej krawędzi ekranu laptopa. Minęło 10 sekund od chwili, kiedy kliknąłem przycisk „złóż wniosek” i algorytmy rzuciły się na udostępnione im informacje w poszukiwaniu odpowiedzi na pytanie: „Czy bank może udzielić mi kredytu ratalnego na zakup telewizora?”. Analizują komplet moich danych osobowych. Mieszkanie – wynajęte czy własne? Potem deklaracja wysokości zarobków oraz garść informacji o pracodawcy. Na koniec logowanie na konto bankowe poprzez specjalną formatkę, ale spokojnie, przecież historii transakcji nie będzie analizować człowiek. Robi to algorytm.

Minęły 23 sekundy. „Dziś bardzo się zmienił świat, bo mamy już system rat” – śpiewał w „Małżeństwie z rozsądku” Daniel Olbrychski w duecie z Elżbietą Czyżewską, ale w 1966 r. po raty szło się ze stertą ostemplowanych zaświadczeń. Kto dziś zgodziłby się na „kredyt bez zbędnych formalności”, na który czeka się kilka dni, gdy już 36 sekund wpatrywania się w pasek postępu wydaje się mordęgą? Podobnie jak samo oszczędzanie? Kredyt to droga na skróty do realizacji potrzeb i pragnień, droższa od zaciskania pasa, ale bardziej przyjemna.

Minęły 53 sekundy. Napędzane algorytmem systemy bankowe dawno potwierdziły moją tożsamość w rejestrze PESEL. Teraz grzebią pewnie w zbiorach Biura Informacji Kredytowej, które gromadzi informacje o wszystkich pożyczkach i wie, że wprawdzie nie używam kart kredytowych, ale mam kredyt hipoteczny i wcześniej kilka razy kupowałem coś na raty. Na ile moja historia kredytowa w danych BIK odwzorowuje ideał kredytobiorcy? Czy na przykład częste zakupy na kredyt uchodzą w bankowym kodeksie wartości za cnotę, po której łatwiej ocenić rzetelność klienta, czy raczej są wadą świadczącą o rodzącym się zakupoholizmie? A może przeciwnie – wadą jest sama oszczędność, bo bank woli za klientów nieprzewidywalnych utracjuszy? To słodka tajemnica algorytmów, karmionych przez zarząd banku bieżącą strategią sprzedażową, która raz może być bardzo ostrożna, a innym razem gotowa na ryzyko niewypłacalności klienta. Reguł gry wcale nie muszą tu wyznaczać uniwersalne wartości społeczne.

Minęły 74 sekundy. Jest decyzja. Moją wypłacalność oszacował program komputerowy, zestawiając informacje o mnie z matrycą stworzoną na bazie Big Data, czyli wielkich zbiorów danych, pozornie niemających ze sobą nic wspólnego. Rozproszone informacje o trendach w branży, w której pracuję, prognozach dla gospodarki i inflacji, o danych sprzedaży sprzętu RTV-AGD w Polsce oraz informacje z mojego rachunku bankowego, wzbogacone o historię kredytową, byłyby niestrawne nawet dla najwnikliwszego analityka. To samo zaserwowane algorytmom zasilanym olbrzymią mocą obliczeniową współczesnych komputerów, a co dopiero wspartym wiedzą o moich decyzjach konsumenckich, wyborach i preferencjach wyrażanych w mediach społecznościowych – układa się w bardzo trafną prognozę.

A gdyby w taki sam sposób pozarządzać całym społeczeństwem?

Co się liczy

Liceum numer 11 w chińskim Hangzhou, nieopodal Szanghaju, na pierwszy rzut oka nie różni się od reszty szkół tego ponad 9-milionowego miasta. Od kilku tygodni placówka bierze jednak udział w pilotażu pewnego bardzo ważnego dla władz w Pekinie projektu.

W klasach zamontowano na suficie po trzy kamery, a obraz z nich analizują w czasie rzeczywistym programy do rozpoznawania twarzy, które mają pomóc nauczycielom wychwycić moment, gdy uczniowie przestają skupiać się na zajęciach. Na licealistów – jak łatwo zgadnąć – padł blady strach.

„Wcześniej bywały lekcje, które mnie nudziły tak bardzo, że zdarzało mi się uciąć sobie drzemkę na ławce, albo przeglądać telefon – mówił niedawno portalowi hangzhou.com jeden z uczniów szkoły w wywiadzie cytowanym przez brytyjski „The Telegraph”. – Odkąd są kamery, nie pozwalam sobie na rozkojarzenie”.

Większa koncentracja na tematyce zajęć z pewnością uczniom nie zaszkodzi. Szkopuł w tym, że program jest również w stanie identyfikować emocje, rozpoznając, czy słuchacze przyjmują tematykę z zadowoleniem, czy może treść wykładu budzi ich niechęć i złość. Pojedyncze obserwacje system następnie sumuje w coś na kształt profilu, który zdradza nie tylko to, jak długo i na czym uczeń potrafi skoncentrować uwagę, ale również to, jak przyjmuje konkretne informacje. A stąd już blisko do pytania, czy pod czujnym okiem kamery studenci pozwolą sobie choćby na cień zniecierpliwienia, gdy nauczyciel zacznie np. wychwalać politykę Komunistycznej Partii Chin.

Obserwacja zachowań uczniów to zaledwie część większego planu chińskich władz, który – to już oficjalna decyzja Pekinu – zakłada do 2020 r. ujęcie wszystkich obywateli w jednym sterowanym Systemie Zaufania Społecznego. Decyzja o jego budowie zapadła już w 2014 r. Od tej pory chińskie agendy rządowe pospołu z największymi korporacjami zbierają dane biometryczne i osobowe wszystkich mieszkańców kraju. Po połączeniu ich z cyfrowymi zasobami chińskich urzędów, banków i serwisów społecznościowych, kontrolowanych oczywiście przez rząd, suma informacji pochodzących z tych źródeł pozwoli rządowym serwerom uzbrojonym w odpowiednio skrojone algorytmy śledzić na bieżąco niemal każdy krok i decyzję obywateli i przyznawać za nie punkty – jak w grze typu RPG. Minimalna wartość punktów systemu to 350. Górny pułap – 950, przy czym spektrum aktywności obywatelskich, podlegających ocenie władz, wykracza tu daleko poza to, co w zachodniej demokracji uważa się za prerogatywę rządu. System interesuje się nie tylko obywatelem-podatnikiem-wyborcą. Zamierza towarzyszyć obywatelowi przez 24 godziny na dobę siedem dni w tygodniu, na zakupach, przy urnie wyborczej, na urlopie, wieczorem w domu, podczas spotkania z przyjaciółmi, nawet na randce. Grasz często w gry wideo – tracisz punkty za marnowanie czasu. Kupujesz w zagranicznych księgarniach internetowych ebooki, których lekturę rząd uważa za szkodliwą – to samo. Masz w gronie znajomych z mediów społecznościowych osoby z niską punktacją – sam je tracisz. Spotykasz się z tymi, których System wysoko ceni – w górę idzie także twój oficjalny ranking. Masz romans z mężatką – pożegnaj się z częścią dorobku punktowego. Segregujesz śmieci? Trochę ich odzyskasz. I tak dalej.


JACEK DUKAJ, pisarz: W epoce Big Data wiedza o człowieku jest poza człowiekiem. Znają cię lepiej, niż ty sam siebie znasz. Kto? Agenci logosu. Bazy danych. Profile. Nieludzkie oprzyrządowanie człowieka.


Pilotaż programu już zaowocował pierwszymi decyzjami. Od 1 maja blisko 9 mln Chińczyków, wskazanych przez algorytmy, straciło wstęp na pokłady samolotów. System doszedł do wniosku, że taka decyzja leży w interesie państwa, ale na jakiej podstawie – tego nie wiadomo. Pekin już zapowiada inne potencjalne ograniczenia dla obywateli z niskim rankingiem społecznym (kolejna niewiadoma: niski, czyli jaki?). Ich dzieci nie będą mieć wstępu do najlepszych szkół, dla rodziców niedostępne staną się z kolei wysokie stanowiska w ważnych chińskich firmach, mieszkania (choćby na wynajem) w bardziej prestiżowych lokalizacjach. Tak jak w społeczeństwie kapitalistycznym status społeczny jednostki konstytuuje zasobność jej portfela (a ściślej: jego siła nabywcza), tak nowe chińskie e-społeczeństwo, nadzorowane przez okrągłą dobę, ma się stratyfikować podług punktacji przyznawanej przez władze w nieustającym procesie wyceny opartej na analizie Big Data. Pod pewnym względem to również koniec państwa prawa, w którym obywatele są równi wobec Temidy. Tu równość sprowadza do powszechnego obowiązku poddania się wycenie.

Wielkiego Brata znali pierwsi czytelnicy Orwellowskiego „1984”, wydanego cztery lata po zakończeniu drugiej wojny światowej. Miał twarz Hitlera lub Stalina, zarządzał światem i prawdą. Patrzył i nasłuchiwał, zawsze i wszędzie, co jednak nie znaczyło, że wszystko widział i słyszał. Niedoskonałość systemu inwigilacji była szansą dla podległych mu jednostek. W przypadku Systemu Zaufania Społecznego jedyną niedoskonałością wydają się sami inwigilowani. Algorytm nie może „nie dowiedzieć się” o czyichś decyzjach lub osądach, bo w rzeczywistości się o nich nie dowiaduje – nie musi. Chiński Wielki Brat, wsparty przez Big Data, po prostu wie, co robią i jak myślą jego poddani. Wie to lepiej od nich samych.

Jak programista w grze komputerowej.

Cywilizacja zbieraczy

Bo w grze postać ewoluuje, rozwiązując kolejne zagadki i wykonując zadania, które twórcy zaprogramowali jej w jednym z dziesiątków, a czasem nawet setek równoległych scenariuszy. Główny bohater zyskuje w ten sposób dodatkowe umiejętności, funkcje i atrybuty budujące jego status w świecie, po którym się porusza. Gracz mimowolnie wchodzi z kolei w nieuchronną w tym układzie funkcję tropiciela pomysłów twórców gry. To fundamentalna różnica w porównaniu z sytuacją w świecie realnym, gdzie znalazłszy na przykład drzewo, możemy je ściąć i przerobić na schronienie, wejść na jego wierzchołek, namalować je na kartce i wejść z nim w interakcję na dziesiątki innych sposobów, jakie podsunie nam wyobraźnia.

W grze komputerowej nikt nie wejdzie na drzewo, jeśli programista nie dopuści w niej takiego scenariusza; więcej – samo znalezienie drzewa zależeć będzie od woli twórcy. W odniesieniu do samych gier taka obserwacja trąci banałem, nabiera jednak kluczowego znaczenia z chwilą, gdy zrozumiemy, że dla większości młodych ludzi zachowania postaci w grze wideo stają się dziś jeszcze jednym wzorcem zachowań społecznych.

Jak twierdzą psychologowie zajmujący się ewolucją gier wideo, rozwija się w ten sposób coś w rodzaju analitycznej intuicji, która ułatwia wytropienie właściwej ścieżki. Właściwej – czyli tej, na której programista umieścił nagrodę. Powoli acz skutecznie granie osłabia za to zdolność do twórczej improwizacji. W klasycznym łacińskim, choć przypisywanym Hannibalowi powiedzeniu Inveniam viam aut faciam (Albo znajdę drogę, albo ją sobie utoruję), akcent przesuwa się zatem obecnie na pierwszy człon. A stąd już krok do obserwacji, że dla pokolenia wychowanego na grach wejście w schemat współzależności z Big Data może być naturalną formułą koegzystencji, a nie podporządkowaniem. Jeśli Wielki Brat ma do rozdania punkty, mamy zebrać ich jak najwięcej.

Oddziaływanie na układ nagrody w mózgu działa zresztą obecnie nie tylko na graczy i nie wyłącznie na młodych. Bujny rozkwit rozmaitych programów lojalnościowych, których członkowie hodują swoje statusy członkowskie dla często iluzorycznych korzyści, świadczy tylko o tym, że wielkiemu biznesowi, dla którego Big Data pracuje od lat, udało się z wdziękiem zintegrować atawistyczną ludzką potrzebę zbieractwa z nowoczesnym marketingiem.

Punkty stają się celem samym w sobie za sprawą globalnej tendencji do tzw. gamifikacji zachowań konsumenckich, podpowiadającym – oczywiście znów na bazie metaobserwacji Big Data – że lojalność klienta najłatwiej utrzymać, zaprosiwszy go właśnie do czegoś w rodzaju gry. Linie lotnicze szacują np., że wśród najczęściej podróżujących pasażerów około 4 procent stanowią już nałogowi poławiacze mil statutowych, które w odpowiedniej dawce można zamienić na srebrne, złote czy platynowe karty upoważniające następnie do wstępu do VIP-owskich saloników na lotniskach, dodatkowego bagażu czy szybszej odprawy.

Coś, co dla latających regularnie w celach czysto służbowych jest po prostu ułatwieniem, dla zbieraczy staje się odmianą szlachectwa. A że tytułu nie da się immatrykulować w świecie poza samolotem i lotniskiem? Nie szkodzi, po prostu wystarczy latać jeszcze częściej.

Masa krytyczna

W wielu sferach życia codziennego przesunięcie akcentu w stronę Big Data jest dziś w Polsce już faktem. Weźmy chociażby polski system bankowy, jeden z najnowocześniejszych w Europie, dzięki zapóźnieniom z poprzednich dekad, które po 1989 r. prywatyzowane polskie banki musiały błyskawicznie nadgonić, sięgając od razu po najnowsze rozwiązania – jak choćby transakcje dotykowe, wirtualne portmonetki czy właśnie algorytmy Big Data. Dziś spotkanie z pracownikiem banku w świecie rzeczywistym staje się wręcz wartością dodaną, zastrzeżoną dla klientów VIP. Reszta korzysta z bankowości już niemal wyłącznie online, a po drugiej stronie obsługą zajmują się maszyny. Z niedawnego badania na zlecenie Citibanku wynika, że w Europie przeciętny klient kontaktuje się ze swoim bankiem około 17 razy w miesiącu, z czego tylko jeden kontakt polega na rozmowie z pracownikiem – w placówce banku lub poprzez infolinię.

Bankowość to sfera biznesu, jedynie częściowo regulowana przez władze. Szkopuł w tym, że państwo polskie coraz głębiej zapuszcza w bankach administracyjne korzenie, próbując w ten sposób nadgonić nieco własne cyfrowe zapóźnienie. Kiedy wiosną 2016 r. ruszały wypłaty z programu 500 plus, rząd nawet nie próbował ukrywać, że oferta banków, które umożliwiły klientom składanie wniosków o zasiłki za pośrednictwem swoich systemów transakcyjnych, ratuje administrację przed kompromitacją.

Dziś większość banków w Polsce ma również zakładkę, za pomocą której można stworzyć i zalogować się do profilu zaufanego, czyli cyfrowego awatara obywatela służącego do kontaktów z urzędami. Prawo od dawna daje też uprawnionym instytucjom – policji czy służbom skarbowym – wgląd do historii każdego rachunku bankowego, z którego można dziś wyczytać znacznie więcej niż saldo konta. Operacje kartami płatniczymi zdradzają, co i gdzie kupowaliśmy, jakie mamy preferencje konsumpcyjne i jak gospodarujemy groszem.

Kilka dni temu Ministerstwo Finansów ujawniło projekt rozporządzenia, na mocy którego uzyskałoby dostęp do adresów IP, których używają klienci banków. Słowem, tkwiącego w każdym z nas homo oeconomicus władza ma już dziś na cyfrowym widelcu przy milczącym przyzwoleniu sektora bankowego, na którym – po reprywatyzacji Pekao SA i zakupie Alior Banku – Skarb Państwa jest ponownie największym właścicielem. W tym kontekście pytanie o poszerzenie zasobów operacyjnych polskiego Wielkiego Brata o informacje na temat homo politicushomo socialis, a nawet homo eroticus nie brzmi już od dawna „czy”, ale „kiedy”.

– Od dłuższego czasu próbujemy sprawdzić, na ile polskie państwo zdołało już połączyć poszczególne cyfrowe źródła informacji o obywatelach, tworząc sobie w ten sposób dostatecznie silny strumień danych dla analizy Big Data – uśmiecha się prezeska Fundacji Panoptykon Katarzyna Szymielewicz. – Niestety, z informacji, do których można dotrzeć oficjalną drogą, nie wyłania się klarowny obraz. Nieliczne przecieki na ten temat każą przypuszczać, że administrację to zadanie na razie przerasta, lecz równie dobrze mogą to być celowe próby dezinformacji.

Przydałby się polski Snowden – żartują działacze pozarządowi i faktycznie: bez szlachetnego informatora, który rzuci na temat więcej światła, stan zaawansowania prac nad polskim Wielkim Bratem wydaje się dziś nie do ustalenia. Można jedynie przyjrzeć się temu, co służby mają na wyciągnięcie ręki. To wystarczy na solidną migrenę.

„W Polsce, mimo dynamicznego rozwoju genetyki, nie ma regulacji prawnych, które określałyby kompleksowo zasady wykonywania poradnictwa genetycznego, bankowania materiału oraz bezpieczeństwa danych genetycznych” – to cytat z opublikowanego właśnie raportu Najwyższej Izby Kontroli o bezpieczeństwie danych genetycznych w Polsce. Raport nie pozostawia również złudzeń, że wobec braku stosownych regulacji właściciele laboratoriów i firm, którym coraz chętniej udostępniamy dane genetyczne (sama wysokość wydatków Polaków na testy genetyczne od 2015 r. wzrosła z 80 do 200 mln zł), zachowują zdrowy rozsądek i trzymają te próbki pod kontrolą. „Istnieje wysokie ryzyko pomyłek oraz błędnej interpretacji wyników, a także niewystarczającej ochrony danych genetycznych osób badanych” – piszą w konkluzji raportu kontrolerzy NIK.

A teraz dodajmy do tego dziesiątki e-sklepów serwisów i usług, do których logujemy się za pośrednictwem Facebooka, który stał się już czymś w rodzaju uniwersalnego cyfrowego identyfikatora tożsamości. Większość takich aplikacji uzyskuje w ten sposób również dostęp do części danych z konta. Dla algorytmów napędzanych Big Data nie ma przecież informacji, która byłaby bezużyteczna. ©℗

Dziękujemy, że nas czytasz!

Wykupienie dostępu pozwoli Ci czytać artykuły wysokiej jakości i wspierać niezależne dziennikarstwo w wymagających dla wydawców czasach. Rośnij z nami! Pełna oferta →

Dostęp 10/10

  • 10 dni dostępu - poznaj nas
  • Natychmiastowy dostęp
  • Ogromne archiwum
  • Zapamiętaj i czytaj później
  • Autorskie newslettery premium
  • Także w formatach PDF, EPUB i MOBI
10,00 zł

Dostęp kwartalny

Kwartalny dostęp do TygodnikPowszechny.pl
  • Natychmiastowy dostęp
  • 92 dni dostępu = aż 13 numerów Tygodnika
  • Ogromne archiwum
  • Zapamiętaj i czytaj później
  • Autorskie newslettery premium
  • Także w formatach PDF, EPUB i MOBI
89,90 zł
© Wszelkie prawa w tym prawa autorów i wydawcy zastrzeżone. Jakiekolwiek dalsze rozpowszechnianie artykułów i innych części czasopisma bez zgody wydawcy zabronione [nota wydawnicza]. Jeśli na końcu artykułu znajduje się znak ℗, wówczas istnieje możliwość przedruku po zakupieniu licencji od Wydawcy [kontakt z Wydawcą]
Historyk starożytności, który od badań nad dziejami społeczno–gospodarczymi miast południa Italii przeszedł do studiów nad mechanizmami globalizacji. Interesuje się zwłaszcza relacjami ekonomicznymi tzw. Zachodu i Azji oraz wpływem globalizacji na życie… więcej

Artykuł pochodzi z numeru Nr 23/2018