O ideologii Doliny Krzemowej

Jeżeli chcemy zrozumieć, jak znaleźliśmy się w potrzasku inwigilacji nie Wielkiego Brata, ale technologii kapitalizmu kognitywnego, jeśli chcemy zobaczyć koniec ślepej uliczki, zanim zderzymy się z nim w pełnym rozpędzie – musimy zrozumieć samą esencję ideologii architektów kapitalizmu. U jej źródła leży fetyszyzm kodu, zrodzony w kalifornijskiej Dolinie Krzemowej.

Niepozorny, 8-minutowy film dostępny w serwisie YouTube oferuje każdej osobie na świecie wgląd w szaloną wizję technooptymistów i budowniczych globalnego systemu nadzoru. Dwa lata temu portal The Verge dotarł (lub pozwolono mu dotrzeć) do filmu przygotowanego przez zespół Google X, spółki zależnej konglomeratu Alphabet/Google szukającej eksperymentalnych przełomowych teorii przy pomocy m.in. techniki „spekulatywnego projektowania”. Polega ona na realistycznym wyobrażeniu, jak może wyglądać świat pełen produktów i usług, które jeszcze nie powstały.

Film „Samolubny rejestr” (Selfish ledger) odwołuje się nie tyle do genetyki darwinowskiej (opartej o naturalną selekcję osobników różnicowanych przypadkowymi mutacjami), ale do epigenetyki Jean-Baptiste’a de Lamarcka (czyli przekazywania cech nabytych w toku życia).

Google wyobraża sobie, w jaki sposób cyfrowe dane użytkowników mogą być traktowane jako kompletny Rejestr nas samych – sumy decyzji, preferencji, zachowań, osobowości, zdarzeń życiowych. Rejestr pamięta każdy Twój zakup lepiej niż Ty i pamięta przebieg i intensywność każdej znajomości lepiej niż Ty.

Lamarckiański Rejestr nie jest zbiorem odosobnionych punktów predykcyjnych, ale Tobą zakodowanym cyfrowo, w idealnej, niezanieczyszczonej losowym szumem postaci.

I wtedy zespół Google X zadaje przełomowe pytanie:

„Co jeżeli Rejestrowi można nadać świadomy cel, zamiast traktować go tylko jak historyczne porównanie? Co, gdybyśmy skupili się na stworzeniu bogatszego Rejestru przez wprowadzenie większej liczby źródeł informacji? Co, gdybyśmy myśleli o sobie nie jako o właścicielach tych informacji, ale jako opiekunach, nośnikach?”

Jeśli bowiem przyjąć skrajnie biologicznie redukcjonistyczny pogląd, że człowiek jest tylko nośnikiem dla swojego kodu genetycznego (którego celem jest replikacja), to podobnie można spojrzeć na Rejestr. Wobec tego celem nie powinien być user-centered design, czyli tworzenie usług i produktów dla użytkownika, ale ledger-centered design – oferta skierowana dla Rejestru. Jego kompletność, rozwój w kierunku idealnej opowieści, optymalizacja szeregów liczbowych stają się celem samym w sobie. Film płynnie przechodzi od wytwarzania produktów przy pomocy drukarek 3D zgodnie z nieznanymi jeszcze gustami użytkownika do modyfikowania zachowania tak, by optymalizować cele zgodne z polityką firmy.

Człowiek, jak głosi „Samolubny rejestr”, musi pamiętać, że jest tylko czasowym nosicielem Rejestru (jako pewnego abstrakcyjnego bytu ideowego) i wobec tego może być kontrolowany, obserwowany i nakłaniany do pewnych wyborów, dla dobra Rejestru. Zbiór wszystkich Rejestrów razem ma umożliwić również międzypokoleniowe, gatunkowe wręcz zrozumienie i rozwiązanie problemów takich jak depresja, wyzwania zdrowotne czy bieda.

Bogaci w dane, ślepi na wiedzę

Zanim zastanowimy się, gdzie leży przedmiot obsesji Doliny Krzemowej, zauważmy, co całkowicie umyka korporacyjnym technokratom z Google’a. Klucz leży właśnie w tym, gdzie twierdzą, że ich rozwiązania mają epokowe zastosowanie.

Problemy depresji czy biedy nie wynikają ze zbyt słabej znajomości ludzi. Dokładniejsza analiza wyborów życiowych kilka pokoleń wstecz może wskazać, gdyby Rejestry zadziałały skutecznie, że problemem jest akumulacja kapitału w kapitalizmie i brak redystrybucji dochodu, niedofinansowanie usług publicznych, ekstrakcyjne i dominacyjne hierarchie, wreszcie alienacja pracowników najemnych w prekarnych warunkach pracy.

Zupełnie jak gdyby te zjawiska nie były szeroko udokumentowane, zbadane i znane w literaturze nauk społecznych.

Korporacje kapitalizmu kognitywnego w swoim poszukiwaniu Prawdy bezustannie potykają się o fakty leżące u ich stóp. Wymagałoby to bowiem zaprzeczenia sensu dalszej akumulacji przez nie kapitału i władzy nadzoru nad ludźmi „dla ich dobra”. Utopijna wiara w wyznaczony z góry, deterministyczny bieg postępu technologicznego i płynące z niego (nieznane jeszcze) rozwiązania światowych problemów są tutaj usprawiedliwieniem dla kapitalistycznego, kognitywnego totalitaryzmu, gdzie fabryka sieci staje się celem samym dla siebie. Ignorowanie prawdziwych rozwiązań tych problemów i wodzenie ludzi za nos mirażem Prawdy to idealna strategia – jeżeli chcemy, by zmianie nie uległo nic.

Fetyszyzm bez cienia erotyki

Nie chcę rysować tutaj oczywiście karykaturalnej postaci maniakalnego naukowca, który z Doliny Krzemowej próbuje przejąć kontrolę nad światem. Ludzie wierzą w racjonalność swoich działań, przypisując im uzasadnienia i motywując je pewnymi wartościami. Dysonans poznawczy wywołany przez rozbieżność między deklarowanymi celami a faktyczną ekonomią polityczną cyfrowych gigantów byłby zapewne dla wielu inżynierów, programistów i innych kognitariuszy trudny do zniesienia. Filtrem, który wybiera informacje, zabarwia je czy nawet przepisuje na nowo, jest ideologia.

Tak często krytykowany konsumpcjonizm wyrasta właśnie z ideologicznego elementu. Fetyszyzm towarowy sprawia, że przedmioty, usługi i dobra przestają być skomplikowanym, ludzkim procesem. Ludzie znikają z procesu produkcji; pozostaje tylko towar i jego cena, dostępny tu i teraz od ręki, jeśli mamy odpowiednio zasobny portfel. Jeśli fetyszyzujemy towar, to silniej przemawia do nas marka Coca-Coli czy estetyczny design Apple – niż świadomość spożywania produktu pakowanego w sposób zagrażający środowisku albo produktu rąk setek współczesnych niewolników z Konga i Chin.

Ideologią Doliny Krzemowej jest podobny fetyszyzm, jednak dotyczy on kodu. Świat natury składa się z kodu genetycznego, świat obiektów porusza mechaniczne ramię robota, prowadzone kodem cyfrowym. Każdy proces można zdigitalizować, przedstawić jako strumień informacji i w ten sposób zrozumieć – i to lepiej niż rozumie najwytrawniejszy fachowiec czy sama zainteresowana osoba.

Świetnie ujmuje to Donna Haraway, biolożka, badaczka nowych technologii i feministka z Doliny Krzemowej, pisząc w „Modest Witness @ Second Millenium”: „Fetyszysta widzi wyłącznie gen we wszystkich żelach, membranach i na wydrukach w laboratorium, i zapomina o naturalno-technicznych procesach, które produkują gen i genom jako obiekt konsensusu w realnym świecie”.

Dla fetyszysty kodu każde zjawisko można sprowadzić do estetycznych linijek znaków; realne doświadczenia i życie prawdziwych czujących osób oddala się coraz bardziej, przysłonięte rosnącymi zbiorami danych. Abstrakcja zajmuje miejsce materialnego, a mapa staje się celem sama dla siebie – nie jako przewodnik po lesie.

Skoro 300 lajków na Facebooku wystarczy, by obliczyć naszą osobowość lepiej niż najbliższa osoba, to po co w ogóle zauważać fizyczne ciała homo sapiens?

Sekwencjonowanie behawioru

Tutaj właśnie wizja zespołu Google X wkracza w pełnej okazałości. Jak deklarują w filmie, porównując Rejestry z pokolenia na pokolenie, z kraju do kraju, i między Tobą a Twoimi rówieśnikami, możliwe będzie „sekwencjonowanie behawioralne”. W miejsce ewolucji genetycznej technodeterminiści proponują nam zatem sterowanie ludzkimi zachowaniami, subtelnie, podprogowo, tak, by optymalizować Rejestr, uczynić go piękną księgą harmonijnego kodu. Zamiast naturalnej selekcji najsilniejszego genomu oferta przewiduje sztuczną sekwencję najbardziej pożądanego behawioru.

Gdyby miało to być jedynie sugerowanie bardziej przyjaznych środowisku decyzji zakupowych czy przypominanie o urodzinach bliskich, pomysł nie wzbudzałby tak wielu kontrowersji. Właściwie byłoby jednak zapytać, czy fetyszyści kodu, wpatrzeni w surowe liczby, rozumieją, że sami są narzędziami w rękach kapitalistów kognitywnych. Wyznacznikiem tego, jaki Rejestr ma wspierać korporacja, nie jest Mark Zuckerberg, mamroczący o „łączeniu ludzi” na przemian z wodotryskami statystyk liczby użytkowników, liczby wyświetleń, liczby lajków, liczby przyrostu użytkowników, liczby przyrostu lajków, ad absurdum. Cel wyznaczają wyniki kwartalne, inwestorzy giełdowi i wynajęci menedżerowie jak Sheryl Sandberg.

Nieprzypadkowo Shoshana Zuboff, ekonomistka z Harvard Business School, nazywa kapitalizm kogntiywny również „kapitalizmem nadzoru”. Ta logika zakłada, że ludzkie życie jest darmowym materiałem do inwigilacji i skapitalizowania. Sprzedaż tej wiedzy – spakowanej w produkty predykcyjne – odbywa się na rynku, którego nie sposób nazywać już rynkiem reklamowym. Jak argumentuje Zuboff, nowy rynek to raczej rynek „behawioralnych opcji”, czyli behawioralny rynek finansowy. Produkcja dóbr i usług w teraźniejszości jest drugorzędna, bo naprawdę liczy się handel przyszłymi decyzjami konsumpcyjnymi, to one są naprawdę wartościowe.

Nietrudno jednak zrozumieć, że sekwencjonowanie behawioralne i handlowanie behawioralnymi opcjami doprowadzą do masowego ujednolicenia, domknięcie bramy cyfrowego getta. Setki tysięcy idealnie sprofilowanych pod każdego reklam oraz produkty i usługi podsuwane lub ukrywane algorytmicznie zgodnie z wolą Rejestru będą wydawać się zindywidualizowane do granic możliwości. Ale ten pluralizm będzie fasadą, bo na końcu procesu znajduje się tylko kilka behawiorów, albo najbardziej przewidywalnych zakupów (czyli najbardziej efektywna kosztowo reklama).

Czarna wizja? Już spełniona. Kampania Vote Leave w okresie poprzedzającym referendum Brexitu wyświetlała 1433 różne reklamy, obejrzane prawie 170 milionów razy. Ale docelową grupą było zaledwie kilka milionów wyborców, których należało poprowadzić labiryntem informacyjnym wprost do celu wymyślonego przez prawicowych ekstremistów. Ten masowy eksperyment inżynierii społecznej udowadnia, jak może skończyć się rzekoma personalizacja Internetu. Każdy otrzymuje własny, unikalny bilet do mentalnej pułapki.

Skończyć z obsesją

Fetyszyzm kodu trzyma się mocno, mimo całej krytyki medialnej i zgorszenia publicznego. Laszlo Bock, wieloletni pracownik Google i lider rekrutacji w Dolinie Krzemowej pracuje obecnie nad startupem Humu, który oferuje zindywidualizowane „bodźcowanie” pracowników, by ulepszyć ich nawyki w organizacji. Powołując się na ekonomicznego Nobla za badania nad bodźcami, Humu podejmuje się ulepszania nas przez technologicznie mediowaną kontrolę, cyfrowy coaching-tayloryzm.

Jedyny sposób przerwania tej spirali to powrót do doświadczania tego, co ludzkie. Fetyszyzmowi kodu genetycznego i informatycznego przeciwstawi się najlepiej żywe, namacalne, realne doświadczenie. Współpraca i współzabawa z realnymi ludźmi, zbędna rozmowa, czas zmarnowany na nieproduktywne bajanie – to niepojęte dla fetyszysty kodu, niemal groźne zjawiska.

Dla mnie osobiście, szczególnie za sprawą fantastycznych rozmów zespołu SpołTech, inspiracją są słowa Olgi Tokarczuk z odczytu noblowskiego. Jej słowa stawiają w centrum czułego narratora – zamiast czujnego konglomeratu GAFA:

„Czułość personalizuje to wszystko, do czego się odnosi, pozwala dać temu głos, dać przestrzeń i czas do zaistnienia, i ekspresji (…) Czułość jest głębokim przejęciem się drugim bytem, jego kruchością, niepowtarzalnością, jego nieodpornością na cierpienie i działanie czasu. Czułość dostrzega między nami więzi, podobieństwa i tożsamości. Jest tym trybem patrzenia, które ukazuje świat jako żywy, żyjący, powiązany ze sobą, współpracujący, i od siebie współzależny”.

Tekst przygotowany przez Instytut Spraw Obywatelskich w ramach projektu „Instytut Spraw Obywatelskich – myślimy, działamy, zmieniamy” sfinansowanego przez Narodowy Instytut Wolności – Centrum Rozwoju Społeczeństwa Obywatelskiego ze środków Programu Rozwoju Organizacji Obywatelskich na lata 2018–2030.