Andrzej Zybertowicz: Samobójstwo oświecenia?
Technologie zawsze zwalniały nas nie tylko od wysiłku fizycznego, ale także umysłowego i emocjonalnego. Nowe technologie – neuro, bio, nano oraz sztuczna inteligencja – przybliżają moment, gdy my-ludzie zostaniemy zwolnieni także z „obowiązku” istnienia. Osiągnięcia neuronauki przybliżają bowiem moment, gdy człowiek, tak jak go teraz rozumiemy, stanie się zbędny.
Zachęcamy do lektury książki. Wydawnictwu Kasper dziękujemy za udostępnienie fragmentu do publikacji.
Andrzej Zybertowicz z zespołem: Samobójstwo Oświecenia? Jak neuronauka i nowe technologie pustoszą ludzki świat, Kraków 2015
Niespodzianka: Już niebawem autor książki, Andrzej Zybertowicz, będzie gościem II edycji Forum Geopolitycznego (24 – 27.11.2020) podczas panelu dyskusyjnego Czy nowe technologie nas uratują czy zniszczą? (piątek, 27.11.2020, godz. 18:00-20:00).
Jako przedsmak debaty proponujemy lekturę fragmentu książki, w którym autor kreśli wizję następstw wynikających z rewolucji cyfrowej i „eksplozji” sztucznej inteligencji w XXI wieku. Może fragment będzie okazją do przygotowania pytań dla naszych gości?
Zachęcamy do rejestracji na II Forum Geopolityczne.
Tygodnik Spraw Obywatelskich jest patronem medialnym wydarzenia.
Samobójstwo Oświecenia? Jak neuronauka i nowe technologie pustoszą ludzki świat
Chcemy uzmysłowić, iż postulowany przez Oświecenie nieskrępowany ludzki rozwój intelektualny zaowocował takim rozwojem technonauki, który w istocie przeniósł nas do sytuacji dziecka, które w ogromnym supermarkecie, pozbawione nadzoru dorosłych, sięga po wszystko, co tylko wyda mu się atrakcyjne. Dziecko nie ma świadomości (bo skąd?!), że akurat znalazło się w dziale z narzędziami ogrodowymi i za chwilę zrobi sobie krzywdę wymachując potężnym sekatorem, a z półki obok rozsypie środek do tępienia szkodników, jednocześnie zapraszając inne dzieci, by wspólnie rozrzucać go w powietrze.
Jeśli to nie jest sytuacja unieważniająca oświeceniowe przesłanie dojrzałości, to co ma nią być?
Oczywiście, nasuwa się kapitalne pytanie, czy w ogóle istnieje ktoś, kto w sytuacji owego supermarketu nowych technologii jest w stanie odegrać rolę dorosłego?
Poprzez Oświecenie do nowych Wieków Ciemnych?
Na całość intelektualnej historii ludzkości – w ogromnym uproszczeniu:
magia-religia-sztuka-nauka-sztuczna inteligencja – można spojrzeć jako na ciąg prób odkodowania świata. Ludzka tradycja kulturowa, w tym dzieje zdrowego rozsądku i odkryć naukowych to rozpisany na wiele głosów i kroków mozół stopniowego, niebywale pracochłonnego, w ogromnej części rozwijającego się metodą prób i błędów poznawania rzeczywistości. Proces, jak chcą niektórzy myśliciele [37], stopniowego oświecania ludzkości. Postępujący tryumf rozumu. Proces zamiany, jak mówią (częściowo nie bez racji) zabobonów, przesądów w twardą, sprawdzalną i sprawdzoną wiedzę.
W wielkim uproszczeniu projekt i obietnicę Oświecenia można wyrazić tak: Ludzki rozum niechaj pozbędzie się wszelkich przesądów i uprzedzeń. Niech odrzuci ograniczenia narzucane to przez monarszą władzę, to przez religię, wreszcie przez autorytarną rodzinę, ba, przez tradycję w ogóle. Tradycja przecież pełna jest nieudowodnionych przekonań. Gdy wyzwolony ludzki rozum zacznie swobodnie poznawać świat, wtedy postępując zgodnie z obiektywnymi prawdami, my-ludzie, posiadacze tego rozumu, urządzimy lepszy świat. Dostatniejszy, sprawiedliwszy, uczciwszy.
Rozumowano tak: czyż wyzwolony z ograniczeń rozum, w swym najlepszym wcieleniu, czyli pod postacią nauki, nie dociera do prawdy o świecie? Rozum, kierując się światłem wiedzy prawdziwej (pamiętajmy: Oświecenie przez wielkie „O”), wskazuje, co dla nas dobre. My zaś, idąc za tym światłem, budujemy lepsze społeczeństwa. Z grubsza tak to w różnych wersjach nurtu Oświecenia przedstawiano.
Dziś – zwłaszcza w perspektywie rewolucji cyfrowej – coraz częściej wskazuje się, że formacja kulturowa, która rozum ludzki wyniosła na piedestał, która z tego rozumu chciała uczynić Króla Stworzenia, doprowadza rozum ludzki do poziomu niewolnika.
Ludzkie zdolności poznawcze stały się marionetką sił rynku, kapitalizmu i masowej konsumpcji. Mamy rozum z klapkami na oczach. Rozum, który ma służyć tworzeniu zysku, ciągłym innowacjom (zanim jeszcze zrozumiemy skutki poprzednich innowacji). Rozum, który w poszukiwaniu sukcesu – tak mówi co drugi podręcznik nowoczesnego biznesu – ma łamać wszelkie zasady.
Tymczasem nasza cywilizacja jest już na drodze do unicestwienia marzeń nawet o cząstkowej, rozumnej kontroli ludzkiego świata. Wiele jest bowiem oznak tego, iż kult oswobodzonego z więzów kultury rozumu prowadzi do nie-rozumnego, nieplanowanego samobójstwa tegoż rozumu [38]. Że ciągle wprowadzane w życie przesłanie Oświecenia może przynieść ciemność, której nie damy rady przeniknąć. Co na to wskazuje? Co można i należy przewidywać posługując się racjonalnym (tj. zgodnym z zasadami rozumu naukowego) oglądem współczesnego świata?
Idzie w szczególności o prace nad sztuczną inteligencją. Chociaż w ostatnich latach mnożą się przestrogi [39], nadal mało kto dostrzega, że sukces na polu ogólnej sztucznej inteligencji najprawdopodobniej będzie oznaczał odwrócenie kierunku całego dotychczasowego procesu rozwoju ludzkiego poznania – metaforycznie: od ciemności do jasności – zmarnotrawienie wysiłku pokoleń skierowanego na zrozumienie świata. Dlaczego?
W momencie gdy jakiś system ogólnej sztucznej inteligencji zacznie samodzielnie uczyć się i ewoluować, może ona (rodzaj żeński jak najbardziej na miejscu) przekształcać się według zasad, których nikt z ludzi nie będzie w stanie pojąć. Wystarczy, iż samodzielnie badająca przyrodę sztuczna inteligencja pozna takie prawa rządzące Wszechświatem, dla których zrozumienia niezbędne będą wytworzone przez tę inteligencję narzędzia matematyczne wykraczające swoim wyrafinowanie poza możliwości ludzkiego umysłu. I ani programiści, ani specjaliści od teorii poznania, ani neurotechnologowie, żaden najbardziej nawet genialny człowiek nie będzie w stanie zrozumieć zasad, wedle których samodzielnie rozwijająca się sztuczna inteligencja działa i przekształca się (chyba, że ona sama zechce dać nam w tym zakresie korepetycje [40]). To ze względu na prawdopodobny skokowy charakter tej zmiany (mającej cechy tzw. przejścia fazowego) mówi się o osobliwości technologicznej.
Jeśli w stosunku do świata poddanego masowej cyfryzacji taka samodzielna sztuczna inteligencja przejmie funkcje koordynacyjne (na razie dzieje się to odcinkowo, ale na coraz większej ilości pól), może zostać wytworzona, zbudowana nowa nieprzejrzystość, nowe Wieki Ciemne. Owocem tysiącletnich dociekań ludzkości będzie świat rządzony przez mechanizm- z-zasady-nie-do-pojęcia dla jakiegokolwiek ludzkiego umysłu.
A postępujące naprzód prace nad sztuczną inteligencją są o wiele bardziej zaawansowane niż się to wielu osobom, które z tematyką nie są bliżej zaprzyjaźnione, wydaje [41]. Może już jesteśmy o krok od kolejnego, tym razem wirtualnego, spalenia aleksandryjskiej biblioteki.
„W przyszłość wkraczamy tyłem”[42] – dwa końce kija
Opisane wcześniej nowe technologie rozwijają się bardzo szybko, m.in. dzięki ich powiązaniu. Wynalazki – najczęściej oznaczające automatyzację jakichś sekwencji czynności – poczynione w ramach jednej z technologii błyskawicznie otwierają nowe pola rozwoju w innych sferach. W efekcie jedne automatyzmy nawarstwiają się na innych. Mechanizm skąpca działa bezustannie i, w pewnym sensie, bezlitośnie. Chociaż nauki społeczne nie posiadają jednolitej, empirycznie zweryfikowanej teorii rozwoju technologicznego, to niektóre, być może kluczowe mechanizmy da się uchwycić.
Kluczowym kontekstem jest tu zjawisko technonauki, czyli szczególna
konfiguracja nauki, technologii, rynku i przemysłu. Zgodzić się należy z autorami, którzy wskazują, iż w przypadku nauk przyrodniczych bardzo często trudno mówić o oddzieleniu badań podstawowych od stosowanych, a kierunków inwestowania w nowe technologie nie sposób zrozumieć bez wzięcia pod uwagę mechanizmów rynku oraz przemysłu, gdzie piony badawczo-rozwojowe niejednokrotnie bardziej przyczyniają się do postępu teorii aniżeli wysiłki uczonych pracujących na uczelniach wyższych [43].
Zapewne wiodący (w sensie siły i zakresu oddziaływania na stosunki społeczne) – choć nie twierdzimy, iż wszystko przesądzający – jest mechanizm rynkowy. Ale współczesny rynek to nie tylko żywioł będący formą ładu spontanicznego. Rozwój technologiczny napędzany jest także dzięki finansowaniu przez wielkie korporacje i bogate państwa zaangażowane w nowy, swoisty wyścig poznawczych zbrojeń. Jednocześnie, poza wielkimi skoncentrowanymi programami badawczymi, występuje rozproszenie ośrodków tworzenia innowacji – na polu rewolucji cyfrowej działa to podobnie jak mechanizm zasygnalizowany przy biotechnologiach. Powstają tysiące startupów – np. małych firm tworzących pomysłowe aplikacje, często natychmiast „wrzucane” do sieci z nadzieją (niejednokrotnie spełnioną) na szybki zysk. Te ze startupów, które odnoszą sukces finansowy i technologiczny i którym przypisuje się duży potencjał rozwoju (czytaj: przynoszenia zysków), często są wykupywane przez wielkie korporacje. Jednocześnie stale powstają startupy nowe. W porównaniu z wyścigiem zbrojeń, jaki w ramach zimnej wojny miał miejsce aż do roku 1989, jest to istotnie inny mechanizm generowania i rozprzestrzeniania się zmian technologicznych.
Między rozwiązaniami oferowanymi przez nowe technologie występują bardzo silne synergie, często przez nikogo nieplanowane i niekontrolowane. Już obecnie oznacza to, iż nad kluczowymi procesami przemian naszej cywilizacji najprawdopodobniej nikt już – żaden pojedynczy podmiot ani jakoś skoordynowana grupa podmiotów (np. wielkich korporacji) – nie panuje. Niebawem nie będziemy w stanie nawet tych procesów obserwować. Klasyczna formuła Hegla: sowa Minerwy wylatuje o zmierzchu – zawiera przesłanie, iż dopiero, gdy pewne rzeczy się już dokonają, możemy je właściwie zrozumieć. Singularity będzie oznaczało unieważnienie tej formuły. To, co zostanie dokonane, już na zawsze pozostanie niezrozumiałe, będzie poza horyzontem naszych możliwości poznawczych. Oświecenie definitywnie się unieważni.
Dzisiejsza, swoista „bezpańskość” procesów przemian technologicznych wynika m.in. z powodów natury poznawczej: o ile jest mnóstwo technologii służących rozwojowi innych technologii, to cierpimy na brak technologii służących do monitorowania, nie mówiąc już o kontrolowaniu procesów rozwoju technologicznego. Koncepcje, teorie, modele dostarczane przez współczesne nauki społeczne w niewielkim stopniu do tego się nadają [44]. Oczywiście, obok intensywnych prac nad rozwojem nowych technologii, prowadzone są społeczne badania nad procesami wyłaniania i rozprzestrzeniania się tych technologii. Badania te, choć bardzo ważne [45], mają jednak słabość polegającą na niskim uteoretycznieniu naszej wiedzy na temat społecznego kontekstu, w ramach którego ma miejsce nie tylko ciągłe generowanie innowacji, ale także wprowadzanie, wstrzykiwanie czy, sięgnijmy, po bardziej radykalną metaforę, wstrzeliwanie ich w tkankę społeczną.
Jedną z najprostszych technologii jest kij – przedłużenie naszego ramienia, wzmocnienie jego siły i szybkości. Ludowe powiedzenie: „każdy kij ma dwa końce” dobrze wprowadza nas w dialektykę technologii. Kij ma nam służyć, ale może też swemu posiadaczowi zaszkodzić. O swój własny kij można się potknąć. Nieumiejętnie go trzymając, można uderzyć nim w przeszkodę w taki sposób, iż sobie samemu uczynimy krzywdę. Gdy kijem chcemy dosięgnąć wroga, może on nam ten kij wyrwać i użyć przeciw nam. W dodatku, natura tego „urządzenia” jest taka, iż ile razy byśmy kijowi jednego końca nie odcinali i tak zawsze będzie miał on dwa końce. Zawsze będzie posiadał potencjał, moc, możność zaszkodzenia nam. Jednak o tej mądrości ludowej często zapominamy, gdy określamy swój stosunek do nowych technologii. Wydaje się, iż bezrefleksyjnie ulegamy jakiejś skłonności, by rozwój techniki traktować „jako rozwój człowieka w ogóle i pod każdym względem” [46].
Dobry wgląd w bardziej wyrafinowane wymiary owej dwuznaczności technologii daje nam klasyczna heglowska dialektyka pana i niewolnika (sługi). Nie mając miejsca, by wejść w strukturę przenikliwej myśli Hegla, ograniczmy się do formuły: im większy pożytek ma pan ze swego sługi, w tym większym stopniu staje się pan od niego uzależniony. To mechanizm skąpca decyduje o tym, iż sługi bardzo trudno jest się pozbyć, nawet gdy zgłasza swoje własne roszczenia. Telefon, Internet, portale społecznościowe, smartfony, tablety są tej relacji wybornymi przykładami. Kolejne pojawiają się każdego dnia.
Warto tu znowu przywołać McLuhana, bowiem jego trafne obserwacje wykraczają poza samo pole mediów (komunikacji międzyludzkiej). Jego zdaniem technologie stanowią zatem swoiste (w przypadku kija dosłowne) przedłużenie stosującego je człowieka. Wybitny badacz mózgu, Michael Gazzaniga, przywołuje pojęcie fyborgów – funkcjonalnych cyborgów.
Nie potrzebujemy implantów czy przeszczepianych kończyn, żeby uzależnić się od technologii i głęboko się zmienić [47].
Nowo wynalezione technologie dodają siebie do tego, czym już jesteśmy. Jednocześnie, my-ludzie zazwyczaj nie uświadamiamy sobie zwykle charakteru zmian zachodzących wraz z nowym upowszechnieniem się kolejnych technologii [48].Dzieje się tak, ponieważ technologia (jako obiekt nieposiadający samodzielnego głosu) nie komunikuje się z nami na poziomie opinii lub koncepcji, nie wikła się w dyskusje z nami, ale – często nie napotykając istotnego oporu – milcząco przekształca nasze wzorce percepcji, a przez to i sposoby pracy naszych umysłów. Dlatego też charakter, skala i kierunek zmian, które zachodzą w społeczeństwie po wprowadzeniu nowych technologii, nie muszą zależeć od tego, czy społeczeństwo je akceptuje [49].
Zmiany przynoszone przez technologie – i te płytkie, i te głębokie – przebiegają na styku tego, co dla naszej świadomości widoczne i tego, co ukryte. Zmiany, które politycy wprowadzają ustawami, często (choć nie zawsze) są szeroko dyskutowane i brane są pod uwagę możliwe do dostrzeżenia ich efekty uboczne. Ustawy bywają korygowane (nowelizowane) i uchylane. Natomiast zmiany przynoszone przez technologie odmieniają ład społeczny z pominięciem filtru demokratycznej polityki. Zresztą badacze zmiany społecznej już dawno zauważyli, iż innowacje techniczne znacznie łatwiej „podróżują” międzykulturowo niż innowacje w zakresie kultury symbolicznej [50]. Być może łatwiej właśnie dzięki temu, iż niejako „wślizgują się” w tkankę społeczną pomijając nie tylko filtr polityki, ale świadomości społecznej w ogóle.
Coraz częściej dostrzega się, iż nowe technologie, wzajemnie splatając się i stymulując, mogą zadziałać jak kij, którym zamachnąwszy się wyrządzimy sobie ogromną krzywdę. My – ludzkość, możemy się za pomocą tych technologii, na które tak liczymy, zwłaszcza w sytuacjach kryzysowych, unicestwić samych siebie. To właśnie tytułowy motyw naszej książki.
Jaka konfiguracja technologicznych zmian może przynieść owo samobójstwo Oświecenia? Nie idzie tu o globalne ocieplenie ani wojnę nuklearną (chociaż zagrożeń tych nie należy lekceważyć). Wiele wskazuje na to, iż jeszcze bardziej poważne jest zagrożenie polegające na sięganiu w głąb ludzkiego umysłu. Żyjemy w epoce, w której nieposkromiony (mimo doświadczeń XX wieku) oświeceniowy rozum doprowadził do takiego rozwoju technonauki, że sięgnięcie ku ludzkiej świadomości nie ma charakteru czystego poznawczego zainteresowania, nie jest rezultatem jakiejś kolejnej mody – to posunięcie o bardzo praktycznych konsekwencjach. W ostatnich dekadach badania nad życiem i świadomością doprowadziły do fazy cywilizacyjnej, w której możliwe staje się uzyskanie przez ludzkość nie tylko odkodowania zjawisk życia i świadomości, ale również poddanie ich coraz pełniejszej kontroli i bardziej radykalnej przemianie.
Jeśli technologie rozumieć szeroko – jako wypróbowane już, przynoszące przewidywalne skutki, sposoby działania – to na dzieje ludzkości możemy spojrzeć także przez pryzmat przemian rozmaitych technik manipulacji jednych ludzi przez innych, w szczególności manipulowania ludem przez elity. Francis Fukuyama, autor m.in. wydanej w 2002 roku książki Koniec człowieka: Konsekwencje rewolucji biotechnologicznej, rozważając przyszłość biotechnologii, wyraził przekonanie, iż technologie te będzie można utrzymać pod kontrolą w ramach przemyślanego systemu regulacji. Polemizując z tą „wiarą w postęp”, brytyjski myśliciel polityczny John Gray podkreśla, iż „W przyszłości, podobnie jak w przeszłości, rozwój nauki i technologii będzie rządzony przez wojnę i zysk” [51]. „Jeśli rozwój technik klonowania powoła do życia nową rasę post-ludzi, będzie to efektem wzajemnego oddziaływania między sobą arcyludzkich sił i motywów – wojny, zysku i próżności przywódców. Post-ludzka przyszłość nie będzie okresem, kiedy to ludzkość przejmuje kontrolę nad swoim losem, ale kolejnym ślepym manewrem w ludzkiej historii (one more blind turn in human history)” [52].
[37] Zob. np. Habermas, 1976/1983.
[38] O tym, iż „Oświecenie zwraca się przeciwko samemu sobie” pisał explicite Kołakowski (1997/2010: 348). Jego refleksja nad siłami sprawczymi tego procesu idzie jednak innym torem niż nasze dociekania.
[39] W głośnym, przedrukowanym przez wiele mediów, tekście opublikowanym w kwietniu 2014, czwórka wybitnych uczonych Steven Hawking, Max Tegmark, Frank Wilczek (Nobel z fizyki w 2004 r. i Stuart Russell zalecają, by znacznie więcej uwagi poświeć zagrożeniom związanym z postępem prac nad sztuczną inteligencją; zob. www.huffingtonpost.com/stephen-hawking/artificial-intelligence_b_5174265.html (dostęp: grudzień 2014).
[40] Artystycznym, ale o głębokiej podbudowie intelektualnej, przykładem takich korepetycji są napisane przez Stanisława Lema wykłady superkomputera o nazwie Golem XIV, Lem, 2009; pierwsze wydania tekstów w 1973 i 1981 r.
[41] Zob. np. Bostrom, 2014.
[42] Autorem tych słów jest francuski poeta Paul Valery.
[43] Zob. Afeltowicz, 2012; Bińczyk, 2012.
[44] Zob. w tym kontekście nader interesujący, poświęcony technologiom numer 3 z 2014 roku czasopisma „Kronos” zawierający blok tekstów zogniskowanych wokół motywu „Technika i totalitaryzm”; por. Bobryk, 2014.
[45] Zob. Afeltowicz, 2011 oraz Bińczyk, 2012.
[46] Bobryk, 2014: 21.
[47] W tym ujęciu fyborgi są „organizmami biologicznymi wyposażonymi w dodatki techno logiczne poszerzające ich naturalne możliwości” – Gazzaniga, 2008/2011: 325; przy kładami takich dodatków u człowieka są ubranie, zegarek, telefon.
48] Przyczyny owej nie-wiedzy przekonująco objaśnia koncepcja ewolucji kulturowej Friedricha Hayeka – zob. jego prace wskazane w wykazie literatury; por. Gazzaniga, 2008/2011: 325–327.
[49] McLuhan, 1964/2004: 40–50.
[5]0 Zob. Zybertowicz, 1995: rozdz. VIII.
[51] Gray, 2004: 28.
[52] Tamże: 31.
Działamy bez cenzury. Nie puszczamy reklam, nie pobieramy opłat za teksty. Potrzebujemy Twojego wsparcia. Dorzuć się do mediów obywatelskich.
