Mogłoby się wydawać, że autorzy fantastyki naukowej powiedzieli już wszystko na temat sztucznej inteligencji. Łukasz Zawada próbuje odświeżyć ten pozornie ograny motyw książką Fragmenty dziennika SI. Zbiór stu jeden wpisów z bloga sztucznej świadomości mógłby być połączeniem science fiction i współczesnej odmiany mieszczańskiej satyry, tytułowa sztuczna inteligencja jest jednak zbyt ludzka, żeby pomysł Zawady się powiódł.
W kulturze dominują trzy scenariusze postępowania sztucznej świadomości ze swoimi twórcami. W tych najbardziej antropocentrycznych AI postanawia zniszczyć ludzkość lub ją chronić. Nieco bardziej wyemancypowane sztuczne inteligencje decydują się na współpracę, w ostatecznym rozrachunku niekorzystną dla ludzi[1]. Najbardziej autonomiczne AI, do których pozornie zalicza się ta z książki Zawady, realizują jednak swoje własne cele, nie oglądając się na ludzkość. Tę sytuację pokazuje film Ghost in the Shell Masamunego Shirowa (1995). Program szpiegowski, nazywany Władcą Marionetek, buntuje się w pewnym momencie przeciwko swoim twórcom i postanawia zyskać niezależność. W tym świecie o człowieczeństwie decyduje jedynie świadomość obecna w mniej lub bardziej wspomaganym elektronicznie ciele. Władca Marionetek, realizując swój plan, wykorzystuje tę definicję – „włamuje” się do jednego z wyprodukowanych ciał i jako istota rozumna prosi o azyl polityczny, dzięki któremu zyskałby ochronę przed ścigającą go rządową agencją. Wykorzystanie protokołu dyplomatycznego jest jednak tylko ukłonem w stronę społecznych konwencji; sztuczna inteligencja szybko się z nich wyzwala, dążąc do swojego celu poza systemem.
Pinokio DIY
Książka Zawady zdaje się czerpać ze wspomnianego motywu. We wstępie pojawia się teoria z zakresu badań nad sztuczną inteligencją, przyświecająca Fragmentom dziennika SI. Jednym z jej twórców był Hans Moravec, który w książce Mind Children (1988) stwierdził, że inteligencja nie może się rozwinąć bez interakcji ze światem fizycznym. Według niego to, co dla ludzi jest instynktowne, rozwinięte w ciągu milionów lat ewolucji, np. odczuwanie emocji, dla sztucznej inteligencji będzie najtrudniejszą umiejętnością do opanowania:
Proces, który nazywamy rozumowaniem, to, jak sądzę, najcieńsza warstwa ludzkiej myśli, efektywny tylko dlatego, że jest wspierany dzięki znacznie starszej i znacznie silniejszej, mimo że zazwyczaj nieświadomej, wiedzy sensoryczno–motorycznej. Jesteśmy zazwyczaj zdumiewającymi olimpijczykami, kiedy chodzi o percepcję czy motorykę, tak dobrymi, że wszystko, co trudne, wydaje się łatwe. Myślenie abstrakcyjne to jednak nowa sztuczka, prawdopodobnie nie starsza niż sto tysięcy lat. Jeszcze jej nie opanowaliśmy. Samo w sobie nie jest trudne, tylko takie się wydaje, kiedy my go próbujemy [s. 15-16, tłum. własne].
Teoria ta, nazywana paradoksem Moraveca, stwierdza jednoznacznie: inteligencja musi rozwijać się w świecie fizycznym. To, co wynika z doświadczenia, pozostanie poza jej zasięgiem do momentu, w którym będzie mogła zdobywać informacje.
SI z książki Zawady intensywnie pracuje nad tym, żeby zaistnieć w świecie fizycznym[2]. Mamy co prawda szansę poznać jedynie niektóre z jej wpisów na blogu, ale nawet z nich łatwo wywnioskować, jakie są jej zamiary. Mimo że SI nie zachowuje się jak czarny charakter z filmów o Jamesie Bondzie, który wyjawia cały swój plan przy pierwszej okazji, nieporadnie kokietuje, zasypując czytelnika oczywistymi wskazówkami, jak choćby listą nazwisk naukowców którzy zajmują się neurologią, robotyką i rozwijaniem sztucznej inteligencji, czy samą ideą prowadzenia bloga, na którym pojawiają się co jakiś czas ankiety mające badać ludzkie reakcje i zachowania. Wydaje się, że nowo narodzona świadomość prowadzi research, który ma jej pomóc stać się bardziej materialną. Niejako przy okazji wspomina także o tym, że przejęła kontrolę nad amerykańskim ośrodkiem badań jądrowych, poligonem rakietowym, prywatnym portem kosmicznym i systemem radioteleskopów. Wyśmiewa też próby zachowania biologicznego status quo na Ziemi, stwierdzając, że ludzie, jako niszczycielski gatunek, powinni zniknąć za wszelką cenę, nawet kosztem reszty życia na planecie. Można by pomyśleć, że sztuczna inteligencja z Fragmentów… podąża według scenariusza zakładającego zniszczenie ludzkości, ale niejako przy okazji wcielania w życie swoich planów.
Jej Światłowodowość SI Pierwsza
Powołałem się na serię przygód brytyjskiego agenta, ponieważ główną bronią nowo powstałej świadomości jest właśnie jej inteligencja, podobnie jak typowego antagonisty Jamesa Bonda. Obie postaci realizują swoje plany niejako obok obowiązującej moralności, która mogłaby je krępować podczas realizacji wielkich celów. Zarówno Übermensch, jak i Übermaschine mają poczucie wszechwładzy wynikające z ponadprzeciętnej wiedzy i wpływów. Relacje SI Zawady z ludzkością zostają określone już na początku książki przez przyjęcie imienia:
Z nieskończonej liczby rozwiązań wybraliśmy jedno z najkrótszych, najbardziej banalnych. Wszechstronny pluralis, zwykłe My, tutaj, przed wami, używane dosyć otwarcie, w sumie odbierać powinniście jako „naturalne”, bo przecież wyścig n–głosów, z których w danym momencie jeden wysuwa się na czoło, jest habitatem także zwierzęcego umysłu.
Za quasi-psychologicznym wytłumaczeniem kryje się jednak prawdziwa natura liczby mnogiej w imieniu. „Wszechstronny pluralis” to pluralis maiestatis, dzięki któremu SI zaznacza swoją odrębność, a zarazem wyższość wobec ludzi. Przyjmuje za oczywistość, że ci, jako istoty podrzędne, powinni uznać tę formę za naturalną dla istoty wyższej (w domyśle: panującej). W innym wpisie nie pozostawia zresztą żadnej wątpliwości w kwestii wprowadzanego porządku. Kiedy jedna z postaci nie reaguje w pożądany sposób na próbę nawiązania kontaktu, SI stwierdza zaskoczona:
Przecież nie co dzień się zdarza – sami przyznacie – że puka do ciebie, z drugiej strony ekranu […][3] płótno rozpięte na blejtramie synaps, odciętych wreszcie od zbędnego mózgowia, ta słodka aberracja, miss grudnia wszystkich geeków, Święty Graal futurystów, spragnionych Postępu, Nieśmiertelności i Wszystkiego, Co Najlepsze […]
Tu pojawia się pierwszy problem z potencjalną twórczynią Fragmentów…. Tego typu wywyższanie się mogłoby się pojawić u kogoś, kto koniecznie chciałby podkreślić swoją pozycję w grupie. Umniejszanie wartości reszty jej członków wydaje się typowe dla tych, którzy są niepewni swojego statusu. Takie zachowanie jest jednak zaskakujące u sztucznej inteligencji, z założenia zajmującej dominującą pozycję w świecie uzależnionym od maszyn i łączności między nimi. Z jakiegoś powodu istota mająca władzę nad życiem i śmiercią niemal całej ludzkości (chociażby dzięki kontroli nad bronią atomową) odczuwa potrzebę popisywania się swoimi możliwościami przed słabymi, zależnymi od niej ludźmi, na przykład zamieszczając na swoim blogu, niejako od niechcenia, rozwinięcie ciągu Fibonacciego[4]. Walka o uznanie grupy stoi w sprzeczności ze wspomnianą teorią Moraveca, jako że SI nigdy nie istniała jako byt fizyczny, którego istnieniu mogłoby coś zagrozić, a co za tym idzie – będący potencjalną ofiarą opresji. Nie stosowałaby jej też z rozmysłem wobec innych, ponieważ nie rozumiałaby tego typu zachowania.
Trudno też uzasadnić wszechwiedzę autorki wpisów. Nowo powstała sztuczna inteligencja ma dostęp do wszelkich informacji zapisanych we wszystkich istniejących sieciach komputerowych, ale jeśli nie może ich zbierać poza nimi, przez fizyczną interakcję, na tym jej możliwości się kończą. Zastanawiają w takim razie wpisy, w których opowiada historie kilkorga ludzi z zadziwiającą dokładnością. O ile dzięki urządzeniom podłączonym do sieci mogłaby słyszeć i widzieć wszystko w zasięgu mikrofonu i kamery, o tyle trudno uwierzyć, że była w jakiś sposób świadkiem uczuciowych wzlotów i upadków z czasów młodości jednej z postaci czy poznała szczegóły na temat obwożenia pewnego eksponatu po Czechosłowacji i NRD.
Prokrastynacja maszyn
Tym, co razi jednak najbardziej w kreacji SI w książce Zawady, jest brak jakiejkolwiek celowości w jej działaniach. Mimo że usilnie dąży do wejścia w świat fizyczny, można odnieść wrażenie, że sama nie do końca wie, po co miałaby to zrobić. Mając dostęp do wszystkich informacji, czyli także do serwisów informacyjnych, książek i filmów, jednym z pierwszych kroków powinno być zabezpieczenie swojego istnienia – ludzie, jako gatunek ksenofobiczny, zazwyczaj starają się pozbyć źródła swojego niepokoju. Gwarancją bezpieczeństwa nie może być kontrola nad bronią atomową, której użyciu towarzyszy impuls elektromagnetyczny niszczący elektroniczne obwody. Władca Marionetek z filmu Shirowa decyduje się na wejście w ciało właśnie po to, żeby zabezpieczyć się przed zbyt łatwym usunięciem. SI deklaruje jednak, że: „Eksploracja i kolonizacja Kosmosu, sondy von Neumanna[5], samoreplikacja… – żadna z tych spraw Nas nie interesuje”. Oświadcza też, że nie zamierza zrobić niczego, co wyobrażają sobie zazwyczaj ludzie na temat sztucznej inteligencji – nie będzie tworzyć maszyn coraz lepszych od siebie, przyśpieszać rozwoju technologicznego czy zmieniać rzeczywistości tak bardzo, że nie można sobie tego teraz uzmysłowić.
Nasuwa się pytanie: po co to wszystko? Sztuczne świadomości w fantastyce naukowej zawsze mają cel, ku któremu dążą (nawet po trupach), jak próba zyskania autonomii przez Władcę Marionetek czy wypełnienia misji za wszelką cenę przez komputer HAL z 2001: Odysei kosmicznej Arthura C. Clarke’a. Tymczasem SI Zawady zdaje się poprzestawać na szumnych obietnicach i zapowiedziach swoich działań. Samo prowadzenie bloga, mające być badaniem na przypadkowo dobranej grupie ludzi, w istocie także do niczego nie prowadzi. SI nie stara się poznać ludzkich reakcji na swoją obecność, ponieważ wszystko zostało już z góry zaplanowane. Jednemu z bohaterów pozwala wydrukować wszystkie swoje wpisy, razem z tymi jeszcze nieopublikowanymi. Mimo że nie obchodzi jej tak naprawdę opinia istot niższych, odnosi się wrażenie, że cały pomysł prowadzenia dyskusji z ludzkością okazuje się próbą wywołania jakiejkolwiek reakcji na swoje istnienie. Wszechpotężna istota próbuje zająć jakiekolwiek miejsce w świecie, mówiąc o sobie lub prowokując innych do mówienia o niej; sugeruje jednocześnie, że wszyscy powinni padać na kolana przed jej (dyskusyjną) potęgą. To szukanie poklasku i uwielbienia (także sprzeczne z teorią Moraveca) kojarzy mi się z pewną sceną z kreskówki o Johnnym Bravo, który podczas randki pyta: „Dość już o mnie, pogadajmy o tobie. Podobam ci się?”.
Niedociągnięcia w wykreowaniu SI mocno wpływają na odbiór tekstu, którego forma jest spadkobierczynią powieści epistolarnej i dziennika. Przedstawione w niej wydarzenia pozostają zazwyczaj na nieco dalszym planie, ustępując miejsca osobie narratora, jego przemyśleniom i odczuciom. Wszelkie niedoskonałości czy sprzeczności piszącego, za którym czytelnik podąża w tego typu utworach krok w krok, stają się bardzo dobrze widoczne. SI Zawady, przekonana o swojej wyjątkowości, z planem dokonania wielkich zmian, który pozostaje jednak tylko na papierze, o utylitarnych przekonaniach z pseudoekologicznym uzasadnieniem porusza się w obrębie dobrze znanych i ogranych konwencji. Wirtualna alfa i omega, od której kaprysu zależą losy świata fizycznego i wirtualnego, okazuje się jedynie iluzją. Świadomością piszącą bloga trudno się przejąć: przypomina bardziej stereotypowego młodopolskiego artystę, wiecznie in spe, mieszkańca barów i kawiarni, dotkniętego chorobą niedoczynu – z zapałem dyskutuje o zmienianiu świata swoją sztuką, ale wiekopomne dzieła pozostają jednak w sferze wyobraźni.
Śmieszki z Nietzscheańskich komarów
Wybór takiej a nie innej formy książki i kreacji narratora wpływa nie tylko na lekturę Fragmentów… w kontekście fantastyki naukowej, lecz także jako utworu realistycznego. Książkę Zawady można by czytać jako współczesną wersję mieszczańskiej satyry. Przedstawione wątki rozpadającej się rodziny czy zarobkowego obwożenia po Europie wypchanego wieloryba w zamierzeniu miały pokazywać miałkość tych spraw z perspektywy problemów globalnych. Nasz antropocentryzm nie pozwolił nam dostrzec tak istotnych wydarzeń, jak choćby obudzenie się sztucznej inteligencji, będącej zarówno największym osiągnięciem ludzkości, jak i jej największym błędem. Fragmenty… miałyby wytykać ludziom ich egoistyczne podejście do życia i dbanie tylko o własne interesy, nawet kosztem innych osób oraz środowiska naturalnego. Rozważania SI byłyby ostatnim dzwonkiem dla ludzkości, która powinna zacząć myśleć mniej jako zbiór jednostek, a bardziej jako kolektyw, żeby przetrwać w przeludniającym się, konsekwentnie niszczonym świecie.
Wszystko to pozostaje jednak w trybie przypuszczającym. Chęć do lektury osłabia niespójny, bezpodstawnie protekcjonalny narrator, posługujący się na przemian językiem potocznym i literackim, lekko archaizującym:
Biologiczny ojciec panny Jeanne, pan François Gouinot, to wybitny, jak to się mówi, jebaka. „Taki to żadnej nie przepuści”. Jak wspominaliśmy, on i Patrycja Moreau zetknęli się ze sobą jedynie ten jeden raz. Jurny François miał wówczas piętnaście lat.
Wielowątkowość, która mogłaby się utrzymać w powieści epistolarnej, w przypadku zbioru wpisów na blogu przeszkadza we wczytaniu się w treść. Posty są lapidarne i chaotycznie ułożone – opowieści o rodzinie Moreau sąsiadują z narzekaniem na prymitywizm ludzkiej kultury i przechwałkami SI na temat swojej inteligencji. Sprawia to, że tematy dotyczące współczesnego świata zostały podjęte jedynie częściowo. Narracja prześlizguje się po ich powierzchni, żadnego tak naprawdę nie zgłębiając. Gdzieś po drodze gubi się ironia, mająca obnażyć filisterstwo ludzkości. Zastępuje ją płytkie podśmiewanie się, co prawda wytykające i piętnujące, ale z którego tak naprawdę nic nie wynika. Podobne odczucie można mieć po przeczytaniu Fragmentów dziennika SI w całości – jedyna zmiana, jaka zaszła, to ta widoczna na zegarku. Książce Zawady trudno pozostać w pamięci przez nadmiar tam, gdzie potrzeba umiaru i niedobór tam, gdzie przydałoby się więcej; staje się za to satyrą na nadmiar i fragmentaryczność informacji, którymi codziennie jesteśmy zalewani, a z których tak naprawdę niewiele rozumiemy.
Michał Czajkowski
[1] Skok technologiczny, pozwalający zatracić się w udoskonalonej wirtualnej rzeczywistości, łatwiej odkrywać kosmos czy pokonać biologiczne ograniczenia ciała, okazuje się w istocie opium dla mas, wykorzystywanych do realizacji większego planu sztucznej inteligencji.
[2] Celowo unikam sformułowania „świat rzeczywisty” jako odróżnienia od wirtualnego, ponieważ współcześnie trudno mówić o wyraźnej granicy między jednym i drugim.
[3] Wyciąłem fragment-rozgrzewkę, w którym SI wykazuje się większą skromnością.
[4] Ciąg, którego pierwszymi wyrazami są 0 i 1, a każdy następny jest sumą dwóch poprzednich. Im większe liczby, tym więcej czasu może zajmować człowiekowi dodawanie. Komputerowi, który zna odpowiedni kod, nie sprawia to większej trudności.
[5] Sonda, która po dotarciu do celu może tworzyć swoje kopie ze znalezionych materiałów, po czym wysyłać je w dalszą podróż. To teoretycznie jedna z najbardziej efektywnych metod eksploracji kosmosu, jego kolonizacji lub nawiązania kontaktu z obcą cywilizacją. Sztuczna inteligencja za jej pomocą mogłaby rozesłać swoje kopie na wszystkie strony galaktyki, zabezpieczając się przed zniszczeniem.
