Za fasadą TikToka, Google i Facebooka

Z prof. dr. hab. Janem Kreftem rozmawiamy o władzy cyfrowych gigantów, ideologii Doliny Krzemowej oraz o rozwoju sztucznej inteligencji.

(Wywiad jest zredagowaną wersją podcastu Czy masz świadomość? pt. Władza platform. Za fasadą TikToka, Google i Facebooka)

Rafał Górski: Ostatnio media obiegła informacja, że działająca przy premierze Rada do Spraw Cyfryzacji przyjęła uchwałę, w której zaleca usunięcie chińskiej aplikacji TikTok z urządzeń pracowników administracji publicznej, w tym członków rządu RP. Przedstawiciele TikToka w odpowiedzi na tę uchwałę stwierdzili, że to nieporozumienie wynikające z nieznajomości struktury firmy. Co my, jako obywatele, powinniśmy wiedzieć o tej sprawie, a czego nie mówią nam politycy, biznesmeni, dziennikarze czy tzw. śniadaniowi eksperci?

Prof. dr hab. Jan Kreft: Istota problemu leży moim zdaniem w trzech kwestiach. Po pierwsze: mamy do czynienia z nieautoryzowanym dostępem do naszych danych. Rządy obawiają się, że Chiny będą mogły mieć dostęp do danych użytkowników TikToka z całego świata. To przeświadczenie jest najmocniej rozpowszechnione w Stanach Zjednoczonych.

Rozumiem, że kiedy mówi Pan o Chinach, to ma Pan na myśli Komunistyczną Partię Chin.

Tak. Jest to skrót myślowy, ale nie widzę istotnej różnicy między chińską partią władzy a tamtejszymi podmiotami gospodarczymi. W przypadku Chin mamy do czynienia ze sprawowaniem przez KPCh „kierowniczej roli” nad gospodarką.

Wracając do poprzedniego wątku: obawiam się, że chiński rząd będzie miał znaczący wpływ na treści, jakie TikTok będzie udostępniał obywatelom na skalę globalną. Może to prowadzić do sytuacji, w której obywatele będą otrzymywać treści mogące w znacznym stopniu przyczynić się np. do destabilizacji sytuacji politycznej w Polsce.

I wreszcie trzeci zarzut kierowany w stronę chińskiej firmy: rządy obawiają się, że TikTok nie zapewnia w swoim oprogramowaniu odpowiednich systemów bezpieczeństwa. Jak wspomniałem, prym w nieufności wobec chińskiej firmy wiodą Stany Zjednoczone, które narzuciły Chińczykom tzw. Project Texas – w jego ramach TikTok powołał w USA spółkę zależną (TikTok U.S. Data Security Incorporated – przyp. red.), która będzie zarządzała funkcjami biznesowymi tej aplikacji, wymagającymi dostępu do danych obywateli USA. Sytuacja ta uwidacznia brak zaufania ze strony administracji USA i prawdopodobne jest, że na podobne regulacje zdecyduje się także Unia Europejska – chociaż rządy państw członkowskich UE są w tej kwestii bardziej wstrzemięźliwe niż Amerykanie.

Mamy do czynienia z najszybciej rozwijającą się aplikacją społecznościową w historii ludzkości. I tak samo jak w przypadku wcześniejszych liderów regulacje prawne nie nadążają za rzeczywistością biznesową.

Spółka ByteDance, czyli właściciel TikToka, rozwija nową aplikację – CapCut – która w Stanach Zjednoczonych ma już ponad 200 milionów aktywnych użytkowników, co będzie dodatkowo pogłębiać obecne problemy, które już znacząco wymknęły się spod kontroli.

Kongresmeni z USA oraz polscy eksperci pragną ograniczenia zasięgu chińskich aplikacji, ale amerykańskie aplikacje również mają do nich dostęp. W książce „Władza platform” opisuje Pan, jak korporacje technologiczne wdarły się do amerykańskiego Kapitolu.

Mój dobry kolega na wieść o tym, co właśnie dzieje się z TikTokiem, stwierdził prześmiewczo, że najwyraźniej Dolina Krzemowa nie lubi konkurencji (śmiech). Alians między światem polityki a gigantami technologicznymi jest bardzo silny oraz powszechny. Za tą konstatacją kryje się jednak coś ważniejszego – technologia, która kiedyś miała czynić świat lepszym, mniej opresyjnym, sprzyjającym dobrostanowi społecznemu, nie tyle wymknęła się spod kontroli, co wytyczyła nowy standard myślenia o rzeczywistości.

Nie jest to nic nowego – policzalność życia i parametrów naszego biologicznego i społecznego funkcjonowania, przekonanie, że matematyka jest królową nauk, zawsze nam towarzyszyły. Pamiętam decyzję prezydenta Cartera, który w imię tego, by Ameryka była liderem w starciu zimnowojennym, ogłosił zawieszenie odpowiedzialności organizacji medialnych za treści, które publikują.

Działamy bez cenzury. Nie puszczamy reklam, nie pobieramy opłat za teksty. Potrzebujemy Twojego wsparcia. Dorzuć się do mediów obywatelskich.

Taki stan wyjątkowy?

Tak, zawieszenie prawa, rodzaj anarchizmu czy techno-anarchizmu – przywołując Kropotkina. Otóż ten techno-anarchizm był domknięty już 2,5 roku temu… Dziś organizacje medialne są zmuszane do tego, aby były odpowiedzialne za publikowane treści – jak choćby Facebook, od którego wymaga się, by usuwał fakenewsy. To są bardzo kosztowne przedsięwzięcia.

Wracając do głównego wątku: uważam, że ten czas został znakomicie wykorzystany przez Dolinę Krzemową. Była ona siedliskiem dobrodusznej wiary w to, że technologia znakomicie wpływa na dobrostan społeczny – nową odsłonę tej wiary widzimy dzisiaj w postaci kolejnych wersji ChatGPT.

Ponadto znakomicie ugruntowała podział ról, tzn. na 10 najbardziej popularnych podmiotów, których aplikacji najczęściej używamy, 7 lub 8 pochodzi z Doliny Krzemowej.

O jakich dokładnie podmiotach Pan mówi?

O tzw. Big Techach, czyli współczesnych gigantach technologicznych, takich jak Alphabet (Google), Amazon, Apple, Meta (Facebook) czy Microsoft.

Dolina Krzemowa nie lubi konkurencji. Gdybyśmy spojrzeli na gigantów z Doliny Krzemowej i odarli ich z retoryki troski o dobro ludzkości i świata, zobaczylibyśmy organizacje, które wielką część swojej aktywności poświęcają likwidowaniu konkurencji. Myślę, że mistrzem świata pod tym względem byłby Facebook.

We „Władzy platform” pisze Pan, że w latach 2005-2018 pięć głównych korporacji medialnych: Amazon, Apple, Facebook, Google i Microsoft wydało 582 miliony dolarów na lobbing, starając się wywrzeć wpływ na amerykańskich kongresmenów. Czy te korporacje mają dzisiaj władzę polityczną?

Myślę, że nie – takie postawienie sprawy byłoby intelektualnym nadużyciem. Ale posiadają władzę stanowienia przestrzeni dla stanowienia władzy politycznej. Dobrym przykładem jest tutaj Donald Trump, który zrezygnował swego czasu z udziału w konferencjach prasowych, bo po co miałby się konfrontować z dziennikarzami, którzy zadają mu trudne, niewygodne pytania – i po prostu przeniósł się na Twittera.

Władzę platform w rozumieniu, które zaproponowałem w swojej książce, było znakomicie widać w momencie, gdy doszło do „eksmisji” Trumpa z życia publicznego – czyli zablokowania jego kont w mediach społecznościowych. Mieliśmy tutaj do czynienia z najjaskrawszym przejawem władzy platform, czyli zarządzaniem widocznością użytkownika.

A czy rację mają ci, którzy uważają, że platformy mogą mieć coraz większy wpływ również na polski Sejm?

Mówiąc dosadnie: nie jesteśmy pępkiem świata. Jesteśmy ciekawym rynkiem wschodzącym, ale biorąc pod uwagę, że najważniejszą wartość z punktu widzenia platform stanowią dane – pod tym względem nasze środowisko i systemy bezpieczeństwa nie są zbyt rozbudowane.

Raporty CISCO mówią o tym, że zaledwie 7% polskich firm jest fachowo przygotowanych na cyberataki. Dzisiejsza dyskusja dotycząca prywatności jest spóźniona o jakieś 20 lat.

Mówimy tutaj o danych takich jak PESEL czy adres zamieszkania, jednak na stole leżą dane genetyczne.

Powiem Panu, że bardziej niż liderów branży IT boję się dziś organizacji, które specjalizują się w analizie behawioralnej. Mam na myśli firmy takie jak np. Palantir, tworzące oprogramowanie zdolne do analizy dużych ilości informacji i dostrzegania zależności. Mówiąc obrazowo: jeśli ktoś kupi bilet lotniczy z Damaszku do Paryża, a ktoś inny wynajmie w Paryżu pokój hotelowy na to samo nazwisko, to Palantir ich skojarzy. Tego rodzaju oprogramowanie było dotychczas sprzedawane poważnym graczom z grona służb specjalnych, takim jak FBI oraz CIA w roli głównej. Od jakiegoś czasu Palantir jest obecny także w Polsce, oczywiście w celu ochrony bezpieczeństwa publicznego.

Władze w Pekinie również uzasadniają swoje działania troską o bezpieczeństwo obywateli, ta sama retoryka obecna jest także w Moskwie i Waszyngtonie. Ale powracając do gigantów technologicznych: w czym przejawia się Pana zdaniem władza platform? Co się kryje za fasadą TikToka, Facebooka czy Instagrama?

W swojej książce piszę m.in. o tym, że jeśli nie ma nas w wyszukiwarce Google, to nie istniejemy. Jednak władza platform jest znacznie bardziej skomplikowana. Wskazując na elementy mniej intuicyjne, możemy stwierdzić, że mamy w tym przypadku do czynienia z niezwykłą popularnością fałszywych metafor oraz równie niezwykłą umiejętnością redefinicji znaczeń. Dzisiaj wydaje się to trochę krotochwilne, ale jeszcze niedawno nazywaliśmy naszych znajomych na Facebooku przyjaciółmi – klasyczna redefinicja znaczeń.

Idea platform polega na tym, że powinno być to miejsce spotkań dla równych sobie. Jednak haczyk polega na tym, że organizacje nowych mediów zorganizowały nam te platformy – ktoś zbudował tę piaskownicę, w której wszyscy się bawimy. Wydaje mi się, że nie bardzo chcemy dostrzec, że ktoś taki w ogóle istnieje.

Zmierzam do tego, że w codziennym korzystaniu z social mediów nie dostrzegamy pośrednika; nie dostrzegamy jego wyrafinowania. Platformy obecnie nie są miejscem spotkań Pana i mnie, lecz raczej miejscem spotkań każdego z nas z reklamodawcami.

Ten model jest teraz kwestionowany przez chatboty. Myślę, że żyjemy w fascynującym momencie, w którym dominujące organizacje (super platformy) spotkały się z czymś, co może je znacznie zdestabilizować. Jaki jest sens sięgania po wyszukiwarkę Google, skoro mogę zadać pytanie chatbotowi, który odpowie mi szczegółowo w błyskawicznym tempie? Mamy do czynienia z niezwykle intensywnym wyścigiem o naszą uwagę. Jest to czas nie tylko redefinicji znaczeń czy fałszywych metafor, ale także czas przełomowych innowacji.

22 marca br. na stronie organizacji Future of Life Institute ukazał się list otwarty, sygnowany m.in. przez Elona Muska, zawierający apel o czasowe wstrzymanie prac nad sztuczną inteligencją. Czy mógłby Pan odnieść się do tej sprawy?

Uśmiecham się pod nosem, gdy widzę to wielkie zatroskanie gentlemanów w rodzaju Elona Muska. Autorzy listu zaapelowali o półroczne wstrzymanie prac nad sztuczną inteligencją w celu rozpoczęcia rzetelnego namysłu nad dalekosiężnymi konsekwencjami rozwoju tej technologii. Jest to bardzo roztropny apel w tej części, w której dotyczy potrzeby refleksji nad tym niezwykłym pędem, z jakim mamy dzisiaj do czynienia. Rozwój technologii AI destabilizuje dosłownie wszystko – gospodarkę, ludzkie tożsamości, role zawodowe.

Problem z ChatGPT polega na tym, że czerpie on siłę z pracy i talentu prawdziwych ludzi, czyli programistów, pisarzy, malarzy, artystów, muzyków, których twórczy dorobek jest przywłaszczany przez ludzi zarządzających AI, deklarujących, że działają w imię ratowania cywilizacji. Lecz czy AI jest inteligentna?

Ludzka inteligencja nie jest jednowymiarowa i opiera się na połączeniu statecznej, ponadczasowej logiki rozumowania formalnego i logiki „sytuacyjnej”, kontekstowej.

Sztuczna inteligencja nie potrafi sobie poradzić z poczuciem przeszłości, teraźniejszości i przyszłości. Słabo rozumie również żarty. Nie ma emocji. Bijąc dziś pokłony przed ChatGPT, składamy hołd zimnokrwistemu racjonalizmowi i jednowymiarowej logice.

Dawno temu ktoś opisał twórców Googla – Siergieja Brina i jego współpracowników – jako zimnokrwistych biznesmenów, ale przede wszystkim zimnokrwistych inżynierów, którzy zawsze poszukują nowych rozwiązań, formuł, algorytmów, które zarówno reprezentują, jak i przewidują zachowanie. To jest taka naiwna wiara, że większość tajemnic, w tym tajemnic ludzkiego zachowania, można odkryć dzięki algorytmom i danym. ChatGPT jest swego rodzaju reinkarnacją tej wiary.

W pewnym sensie sztuczna inteligencja ani nie jest sztuczna, ani nie jest inteligentna – jest po prostu jednowymiarowa. Problem polega na tym, że każde nasze kliknięcie, każda fraza wpisana w wyszukiwarkę szkoli ten algorytm.

A nawiązując jeszcze do Pana wcześniejszego pytania: myślę, że „władza platform” polega obecnie także na tym, że jako społeczeństwo występujemy teraz w nowej roli – uczymy algorytmy. Przestajemy być podmiotem, a stajemy się przedmiotem – nasza rola sprowadza się do szkolenia algorytmów z pespektywy jednowymiarowej sztucznej inteligencji.

Kto stoi za twórcami ChatGPT-4, o którym dziś wszyscy mówią?

Wśród założycieli startupu OpenAI, który pracuje nad tym projektem, był m.in. Elon Musk. Ogromne środki przekazuje na rzecz OpenAI Microsoft, a także parę innych podmiotów, które dawno temu zainwestowały w rozwój sztucznej inteligencji.

Można powiedzieć, że jest to dziecko Doliny Krzemowej – której działanie opiera się na tym, że inwestuje się w 100 przedsięwzięć, z czego 99 nie wypali, ale jedno wypali i stanie się tzw. „jednorożcem” z kapitalizacją powyżej 1 mld. dolarów, który zrekompensuje nieudane inwestycje.

W styczniu br. OpenAI było warte prawie 30 mld. dolarów i szybko rośnie. Odpowiadając na pytanie, „kto za tym stoi” – stoi za tym logika Doliny Krzemowej, logika „jednorożców”, logika specyficznej kultury, która – powiedzmy sobie szczerze – jest niepodrabialna. Bo przecież nie chodzi tutaj o moc obliczeniową komputerów ani przepustowość serwerów.

Cokolwiek byśmy na ten temat myśleli, wydaje się, że rdzeniem tej kultury jest wiara w dobro człowieka wspieranego przez technologię. Na pewno jest w niej także obecna polityczna logika wspierania narodowych rozwiązań – z pespektywy Doliny Krzemowej globalizacja jest fajna, ale najlepiej, żebyśmy to my ją kreowali (śmiech). W ideologii Doliny Krzemowej nietrudno także usłyszeć echa amerykańskiego mesjanizmu z jego gotowością do niesienia „kaganka oświaty” i demokracji na cały świat.

W tym punkcie rodzi się też pytanie, jaka jest alternatywa? Otóż alternatywa jest nieciekawa, przede wszystkim chińska, czyli skok „z deszczu pod rynnę”.

Zastanawiam się, czy nie stoi za tym po prostu zwykła chciwość, ale to być może temat na inną rozmowę. Panie profesorze, kto dzisiaj korzysta, a kto traci na władzy platform?

Odpowiadając przewrotnie: jeśli jest coś szczególnie istotnego w relacjach między przeciętnym użytkownikiem a podmiotami, które zarządzają platformami, to jest to asymetria zależności. Asymetria zależności jest naturalną sytuacją tam, gdzie brakuje nam kompetencji, aby podważać czyjeś zdanie. Zjawisko to zawsze występowało w społeczeństwie, ale jeszcze nigdy nie przybrało aż takich rozmiarów. Na tym właśnie polega władza wynikająca z unikatowych kompetencji.

Korzystają wszyscy ci, którzy mają większe kompetencje niż przeciętni użytkownicy platform. To swego rodzaju nowa formuła feudalizmu – na samej górze jest król, który kieruje platformą, a na samym dole jest chłop, który „kopie” i dostarcza dane. Najlepiej, żeby były to unikatowe zapytania, bo to przede wszystkim na nich uczy się wyszukiwarka Google.

A kto w takim razie najwięcej traci?

Mamy obecnie do czynienia z kultem postępu. A postęp jest dobry dlatego, że jest postępowy – w opinii wielu jest to wartość autoteliczna. Odpowiadając metaforycznie: nie jest tak, że ten przypływ unosi w takim samym stopniu wszystkie łodzie. Oczywiście najwięcej tracą ci, którzy nie zarządzają przypływem.

Czy zgodziłby się Pan z tezą, że zaledwie promil światowej populacji zyskuje w efekcie procesów, o których rozmawiamy?

Z całą pewnością. Jest to nowa odsłona turbokapitalizmu. Efekt św. Mateusza nadal zachodzi – bogaci stają się coraz bogatsi, a biedni (relatywnie) coraz biedniejsi. Jednak aby nie popaść w skrajny pesymizm: dostrzegam w rozwoju sztucznej inteligencji mnóstwo pozytywów i kreatywnych rozwiązań.

Co sądzi Pan o aplikacji mObywatel, która na mocy ustawy została niedawno zrównana z tradycyjnymi dokumentami? Czy obywatele zainteresowani ochroną swojej prywatności mają powody do obaw?

Niespecjalnie obawiam się przedsięwzięć, które są transparentne. Boję się natomiast tych, które umykają naszej uwadze.

Aplikacja mObywatel jest klasycznym, janusowym rozwiązaniem, które z jednej strony pozbawia nas prywatności, ale dobrze bilansuje korzyści.

Boję się rozwiązań, które są skrajne – i gdzie w imię bezpieczeństwa całkowicie pozbawia się nas wolności. W aplikacji mObywatel zachowano moim zdaniem zdrowe proporcje.

Dlaczego w Polsce brakuje publicznej dyskusji na temat władzy platform?

Przede wszystkim dlatego, że brakuje nam edukacji w tej dziedzinie. Nie chciałbym tutaj uciekać się do taniego moralizowania, ale trudności systemu edukacji z nadążaniem za postępem cywilizacyjnym i technicznym nie są zjawiskiem nowym.

Natomiast dostrzegam pilną potrzebę edukowania w polskich szkołach do świadomego i odpowiedzialnego poruszania się w środowisku cyfrowym. Nie zaszkodziłaby też znajomość języka mandaryńskiego (śmiech).

Jak my, obywatele, możemy dzisiaj stawiać opór wobec władzy platform? Czego powinniśmy żądać od polityków, a czego wymagać od siebie?

Na poziomie ogólnym powiem tak: mniej technocentryzmu, a więcej Oświecenia. Powinniśmy w większym stopniu finansować kulturę, sztukę, humanistykę, a mniej skupiać się na uczeniu maszynowym i finansowaniu centrów danych.

Przypomina mi się tutaj amerykańska dziennikarka Julia Angwin, która swego czasu napisała kapitalną książkę („Społeczeństwo nadzorowane. W poszukiwaniu prywatności, bezpieczeństwa i wolności w świecie permanentnej inwigilacji”, Kurhaus Publishing, 2017 – przyp. red.) o tym, jak przez 2 miesiące próbowała nie zostawiać śladu cyfrowego – niestety mieszkała w Nowym Jorku, w związku z tym słabo to wyszło (śmiech).

Popularne aplikacje zastępowała takimi, które nie zbierają danych o użytkownikach – istnieją np. wyszukiwarki internetowe, które nie są oparte na modelu reklamowym – ale na dłuższą metę wymaga to niemal heroizmu, będąc prawie niemożliwe do osiągnięcia. Pod tym względem jestem sceptykiem.

Dziękuję za rozmowę.