Grecy mieli obsesję na punkcie pytania, co to naprawdę znaczy być człowiekiem. Ich legendy wielokrotnie badały perspektywy i zagrożenia związane z nieśmiertelnością, rozwojem ludzkich zdolności, duplikacją żywej istoty. W ulubionych mitach o Herkulesie, Jasonie i Argonautach, o czarodziejce Medei i inżynierze Dedalu, o bogu wynalazcy Hefajstosie i tragicznie ciekawej Pandorze, postawiono główne pytanie o granicę między człowiekiem a maszyną. Dzisiaj rozwój biotechnologiczny i postęp w sztucznej inteligencji ponownie nadają znaczenie kwestii konsekwencji połączenia biologicznego i technologicznego. Można powiedzieć, że dyskurs ten został zapoczątkowany przez starożytnych Greków.
Medea, mityczna czarodziejka, której imię pochodzi od czasownika „wymyślać”, posiadała wiele tajnych sztuk. A wśród nich jest sekret odmłodzenia. Medea, aby zademonstrować swoją siłę, pojawiła się przed Jasonem i Argonautami w postaci starej, pokrzywionej staruszki, by następnie zamienić się w piękną młodą księżniczkę. Iason poddał się czarowi i zakochał się w niej. Poprosił Medeę o wskrzeszenie młodzieńczej siły w jego sędziwym ojcu, Esonie. Medea wypompowała całą krew z żył starego człowieka i zastąpiła ją sokami z ziół leczniczych.
Stary Eson, nagle energiczny i pełen zdrowia, zadziwił wszystkich, w tym córki podeszłego wieku Pelias. Poprosili Medeę o ujawnienie sekretnego przepisu na tchnięcie życia w jej ojca. Ale nie wiedzieli, że Pelius był wieloletnim wrogiem Medei. Czarownica oszukiwała, pozwalając im oglądać jej obsadę. Powtarzając zaklęcia, dała wspaniały pokaz, mieszając pharmaka (leki) w specjalnym „kotle odmładzającym”. Wtedy Medea wyjęła starego barana, poderżnęła mu gardło i wrzuciła do wielkiego kotła. Abracadabra: cudem pojawiła się stamtąd rozbrykana młoda jagnię! Zaufane córki wróciły do domu i próbowały powtórzyć sztuczkę ze swoim starym ojcem, powtarzając magiczne słowa, podcinając mu gardło i wepchnięciem go we wrzącą wodę.
Oczywiście zabili Peliasa. W opowieści o Medei nadzieja i strach są połączeniem odwiecznej pary reakcji na naukowe eksperymenty dotyczące samego życia.
***
Najwcześniejsze przedstawienie Medei pojawiło się na greckiej wazie około 500 roku pne. e. jednak tradycje ustne istniały przez wiele wieków wcześniej. Kiedy Medea miesza zawartość kotła, wyłania się z niego baranek. Baran i jagnię Medei są poprzednikami Dolly, pierwszej owcy stworzonej w ramach eksperymentu klonowania metodą inżynierii genetycznej w 1997 roku.
Replikacja życia ożywia w nas archaiczne lęki. Efekt doppelgangera podważa pragnienie każdego człowieka, by był wyjątkowy, niezastąpiony.
Głęboko przesiąknięte metafizycznym zrozumieniem i przewidywaniami na temat przyszłych manipulacji naturą człowieka, te starożytne tradycje wydają się niesamowite w naszych czasach. Jeśli spojrzeć na to, co Grecy nazywali bio-techne, (bios = życie, techne = stworzone przez sztukę nauki) jako badanie naukowe, „science fiction” starożytnego świata nabiera niesamowitego, współczesnego znaczenia. Medea i inne biotechnologiczne mity zainspirowały nawiedzające, dramatyczne przedstawienia i niezapomniane ilustracje w klasycznych wazonach i rzeźbach.
Film promocyjny:
Tymczasem około 400 rpne. mi. Archytas, przyjaciel Platona, zachlapał swoim mechanicznym ptakiem o napędzie parowym. Grecki inżynier Heron z Aleksandrii wynalazł setki zautomatyzowanych maszyn sterowanych hydrauliką i pneumatyką. Inni rzemieślnicy tworzyli ruchome postacie, które wydawały dźwięki, otwierały drzwi, nalewały wino, a nawet atakowały ludzi. Jest oczywiste, że starożytni Grecy pociągali bio-techne.
Za tymi cudami technologii kryje się poszukiwanie życia wiecznego. Grecy wierzyli, że Chronos mierzył życie kobiet i mężczyzn. Czas został podzielony na przeszłość, teraźniejszość i przyszłość. Wolność od czasu obiecywała życie wieczne, ale rodziła niepokojące pytania. Idź z biegiem nieskończonego czasu - a potem co stanie się ze wspomnieniami? Co się stanie z miłością? Czy piękno może istnieć bez śmierci i starości? Czy ofiara i bohaterstwo są możliwe bez śmierci? Wielcy bohaterowie mitów umierali fizycznie, pozostając w pamięci po śmierci, nawet jeśli stali się „ćwierkającymi duchami” Homera w zaświatach. Mity niosą ze sobą przesłanie egzystencjalne: śmierć jest nieunikniona, a perspektywy ludzkiej godności, niezależności i bohaterstwa zależą od śmiertelności.
Rzeczywiście, po tym, jak bogowie dali im wybór, Achilles i inni bohaterowie odrzucają życie w wygodzie i lenistwie, życie wieczne. W mitach wielcy bohaterowie i bohaterki zdecydowanie wybierają krótkie, niezapomniane życie, pełne honoru, ryzyka i odwagi. „Jeśli nasze życie jest krótkie, niech będzie wypełnione chwałą!” Sztuczna nieśmiertelna egzystencja może być atrakcyjna, ale czy będzie wspaniała i szlachetna?
Mity o najodważniejszych bohaterach dramatyzują wady nieśmiertelności. Kiedy bogini Thetis wrzuca swojego młodego syna Achillesa do magicznej rzeki Styks, aby uczynić go niezniszczalnym, trzyma go za piętę. Na polu bitwy w Troi, pomimo całej swojej sprawności, najlepszy mistrz Grecji ginie nie w uczciwej walce, twarzą w twarz, jak miał nadzieję, ale z powodu zatrutej strzały, która przebiła piętę Achillesa. Takie rzeczy wydają się nieistotne, ale takie nieprzewidziane luki są nieodłącznym elementem zaawansowanej biotechnologii.
***
Pragnienie przekroczenia śmierci jest tak stare, jak sama ludzka świadomość. W przestrzeni mitologicznej nieśmiertelność staje się dylematem zarówno dla bogów, jak i dla ludzi. Mit o Eosie i Tyfonie porusza problem zapobiegania wszelkim nieprzewidzianym i potencjalnym powikłaniom. Eos była nieśmiertelną boginią, która zakochała się w śmiertelnym Tyfonie. Bogowie spełnili prośbę Eos, aby jej ukochany żył wiecznie. Ale zapomniała prosić o wieczną młodość dla swojego wybranego. „Kiedy ohydna starość zmiażdżyła Tyfona, Eos był zrozpaczony” - głosi mit. Niestety uwięziła swojego ukochanego w lochu za złotymi drzwiami. „Tam, bez siły, by poruszyć niegdyś giętkie kończyny, Tyfon pogrąża się w wieczności”. W niektórych wersjach Tyfona wyczerpują cykady, których monotonny śpiew jest niekończącą się prośbą o śmierć.
Los Tyfona rzuca cień na perspektywę przedłużenia życia ludzkiego. Uznając dylemat tyfona nieodłącznie związany z ograniczaniem starzenia się w nieskończoność, gerontolog biomedyczny Aubrey de Gray założył w 2009 roku Fundację Badań SENS (Strategie Inżynierii Lekkiego Starzenia). SENS ma nadzieję, że uda się znaleźć sposób na uniknięcie starzenia się komórek, ponieważ sama śmierć jest coraz bardziej oddalona.
W najgłębszych starożytnych mitach pojawia się pytanie: czy nieśmiertelność uwalnia od cierpienia i żalu? Na przykład w eposie o Gilgameszu tytułowy bohater mezopotamskiego poematu pragnie nieśmiertelności. Ale gdyby Gilgamesz zyskał życie wieczne, spędziłby je w wiecznym żalu po swoim przyjacielu Enkidu.
Albo spójrz na losy mądrego centaura Chirona, mentora i przyjaciela Herkulesa i Apolla. Hercules przypadkowo trafił Chirona strzałą zatrutą trucizną Hydry. Ta straszna rana nigdy się nie zagoi. Wijąc się z nieznośnego bólu, Chiron, chcąc się jej pozbyć, poprosił bogów o błogosławioną śmierć w zamian za jego nieśmiertelność. Prometeusz, tytan, który ujawnił ludziom boską tajemnicę ognia, okazał się kolejnym nieśmiertelnym, który cierpiał z powodu niekończącego się bólu. Zeus przykuł Prometeusza do skały i każdego dnia wysyłał ogromnego orła, by dziobał jego wątrobę. Wątroba tytana odrosła z dnia na dzień, a orzeł znów ją wydziobał. Co jakiś czas. Nieskończenie. Nieśmiertelność.
Koszmar regeneracji ujawnia się również w micie o wielogłowej Hydrze. Próbując zabić potwora, Herkules odciął każdą jego głowę, po czym na jego miejscu wyrosły dwie nowe. W końcu spalił każdą szyję pochodnią, ale centralna głowa Hydry była nieśmiertelna i niemożliwa do zniszczenia. Hercules zakopał swoją niezniszczalną głowę w ziemi i przetoczył ogromny głaz, aby odstraszyć stamtąd ludzi. Nawet z kłów Hydry głęboko pod ziemią wyciekała śmiertelna trucizna. Tym razem nieśmiertelność została dosłownie zatruta.
Inny przykład: Jason i Argonautowie byli zagrożeni przez legion ohydnych replikantów. Na końcu złego ojca Medei, podnieśli armię smoczych zębów, orając pole przy pomocy ziejących ogniem mechanicznych byków, które wynalazł Dedal Wbił zęby smoka w ziemię. Wykiełkowały „nasiona”, az ziemi wyłonili się niezwyciężeni w ich licznych, w pełni uzbrojonych szkieletowych wojownikach. Ale magicznym zbiorom brakowało jednej kluczowej cechy: nie można ich zamówić. Po prostu atakują bez przerwy. Ojciec Medei chciał, aby armia zniszczyła Argonautów. Na Iasona i jego ludzi zbliżały się ponure „roboty”. Zdesperowany, aby powstrzymać rosnący niekontrolowany tłum, Jason zaczął rzucać kamieniami w środek tłumu. Szkielety zostały „zaprogramowane” do zabicia najbliższego wrogaw ten sposób zabijali się nawzajem. Niektórzy uczeni uważają, że starożytna opowieść wyprzedza Homera. Ta historia jest złowieszczym zapowiedzią zniechęcającego zadania zarządzania cyber żołnierzami.
Kolejna seria mitów poświęcona kreteńskiemu geniuszowi Dedalusowi związana jest z cudami mechaniki. To on zrobił orła podobnego do drona, który regularnie rzucał się na wątrobę Prometeusza. Jego najsłynniejszy eksperyment polegał na lataniu na skrzydłach i stał się stereotypem tragicznej arogancji. Podziwiając magię lotu, syn Dedala, Ikar, leciał zbyt wysoko. Ciepło słońca stopiło wosk, który trzymał razem brązowe "pióra", skrzydła rozpadły się i Ikar runął na śmierć. Podobnie jak inne mity o nieśmiertelności i wzmocnieniu ludzkich zdolności, historia wskazuje na niemożność przewidzenia prostych, ale potencjalnie śmiertelnych momentów technologicznych.
Według greckich legend, Dedal był pierwszym śmiertelnikiem, który stworzył „żywe posągi”. Poruszali rzeźby z brązu, które wydawały się naprawdę obdarzone życiem: przewracali oczami, pocili się, płakali, krwawili, rozmawiali i poruszali kończynami. W jego warsztacie biomimetyczna krowa została stworzona z drewna i skór, tak realistyczna, że oszukała byka, który z nią parzył: w ten sposób Dedal zaspokoił wypaczoną pasję królowej Pasiphae. Rezultatem było zjednoczenie człowieka, maszyny i zwierzęcia w Minotarze, ohydnym stworzeniu z ludzkim ciałem i byka głową. Miał zostać kanibalem, uwięzionym w Labiryncie (również projekt Dedala), aż pewnego dnia został zabity przez bohatera Tezeusza. Znowu starożytna bio-techna połączyła ze sobą człowieka i maszynę - i zrodziła potwora.
***
Hefajstos, bóg wynalazków i technologii, również zbudował roboty, które wykonywały polecenia i poruszały się niezależnie. To właśnie ten niebiański kowal miał w starożytności największe biotechnologiczne CV. Hefajstos stworzył dwa mechaniczne psy ze złota i srebra, aby strzec królewskiego pałacu. Jego cztery konie-roboty ciągnęły rydwan, „wzbijając kurz swoimi mosiężnymi kopytami i rżąc”. Po tym, jak bogowie wskrzesili posiekanego bohatera Pelope, Hefajstos zastąpił jego łopatkę wkładką z kości słoniowej.
Hefajstos opracował kilka „samobieżnych” statywów na kołach, które reagowały na polecenia przyniesienia jedzenia i wina. To doprowadziło go do stworzenia grupy naturalnej wielkości złotych pokojówek do wykonywania jego rozkazów. Służące zautomatyzowane były „jak prawdziwe młode dziewczyny: spostrzegawczością i inteligencją, siłą, a nawet głosem, wyposażone w całą wiedzę nieśmiertelnych”. Który entuzjasta sztucznej inteligencji z Doliny Krzemowej może przekroczyć tę ambicję?
Cuda Hefajstosa zostały wyobrażone przez starożytne społeczeństwo, które zwykle nie jest uważane za zaawansowane technologicznie. Istoty biotechnologiczne zafascynowały kulturę istniejącą od tysiącleci przed pojawieniem się robotów, które potrafią wygrywać w skomplikowanych grach, prowadzić rozmowy, analizować wiele informacji i określać pragnienia ludzi. Ale czyje życzenia spełnią roboty ze sztuczną inteligencją? Od kogo się nauczą?
Nastoletni chatbot Microsoftu o żeńskim imieniu Tay to pouczający przykład naszych czasów. W marcu 2016 roku Tay rozpoczął pracę na Twitterze. Misternie zaprogramowany do naśladowania sieci neuronowych ludzkiego mózgu, Thay musiał uczyć się od „przyjaciół” - ludzi. Oczekiwano, że będzie w stanie prowadzić zawiłe rozmowy bez filtrów i bez nadzorowania swojego zachowania. W ciągu zaledwie kilku godzin złośliwi obserwatorzy Twittera zmienili Tay w internetowego trolla z rasistowskimi i seksistowskimi szyderstwami. Niecałe 12 godzin później twórcy go wyłączyli. Wysoce zniszczalny system uczenia się Thay osłabił optymizm dotyczący samouczących się sztucznej inteligencji i inteligentnych robotów.
Starożytni historycy Polybius i Plutarch opisali celowo agresywną kobietę-robota. Została stworzona dla Nabisa, ostatniego króla Sparty, na podobieństwo jego złej żony Apegi. Okrutny tyran Nabis doszedł do władzy w 207 rpne. mi. podczas swego panowania wyłudzał duże sumy pieniędzy od bogatych poddanych. Greccy rzeźbiarze słynęli z niezwykle realistycznych rzeźb portretowych z naturalnymi barwami, ludzkimi włosami i szklanymi oczami. Nabis ubrał ten bardzo realistyczny manekin w strój żony, który zakrywał jego pierś, nabijaną gwoździami. Zamożnym obywatelom podawano najpierw dużo wina do picia, po czym, jeśli odmawiali zapłaty, przedstawiano im Apegę, co było bardziej przekonujące. Kiedy pijani goście wstali, by powitać „królową”, król Nabis kontrolował dźwignie ukryte na plecach robota. Uniosła ręce i chwyciła mężczyznę, mocniej ściskając go i przyszpilając go do przybitej piersi. Za to i inne okrucieństwa Nabis został stracony w 192 pne. mi. Wieki później średniowieczni oprawcy wymyślili prymitywną wersję tej wyrafinowanej spartańskiej „żelaznej dziewicy”.
Epos Jasona i Argonautów, The Argonauts, zawiera również śmiercionośnego robota. Talos to jedno z najbardziej pamiętnych dzieł Hefajstosa. Był gigantycznym wojownikiem z brązu, zaprogramowanym do ochrony wyspy Krety, ciskając głazami w zbliżające się statki. Miał też inną zdolność bojową, która naśladuje ludzką cechę. Jako robot Apega, Talos mógł wykonać mrożące krew w żyłach zniekształcenie uniwersalnego znaku ciepła - przytulenia. Będąc w stanie ogrzać swoje brązowe ciało, Talos przytulił ofiarę, piecząc ją żywcem. Jak Jason i Argonauci uciekli przed tym bionicznym potworem?
Wykorzystanie bio-techne w odpowiedzi na bio-techne. Medea wiedziała, że Hefajstos stworzył Talosa z pojedynczą tętnicą, przez którą posoka, tajemniczy życiodajny płyn bogów, krąży między szyją a kostką. Jeden gwoździe z brązu przypieczętował „system życia” Talosa.
Medea przekonała Talosa, że może uczynić go niewrażliwym, wyjmując brązowy gwóźdź. Ale kiedy wyjęto gwóźdź, posoka wypłynęła z Talosa jak stopiony metal i jego „życie” wymarło. Medea wykorzystała odwieczne pragnienie wyimaginowanych replikantów, od Talosa przez potwora Frankinsteina po Blade Runnera. Wierzymy, że kryją się w nich ludzkie aspiracje.
Kulminacyjnym projektem laboratorium Hefajstosa była dziewczyna-android zamówiona przez Zeusa. Zeus chciał ukarać ludzi za zaakceptowanie niebiańskiej tajemnicy ognia skradzionej przez Prometeusza. A ich karą, stworzoną przez Hefajstosa, była Pandora („zjadający wszystko”). Każdy bóg obdarzył ją ludzką cechą. Pandora posiadała piękno, urok, talent muzyczny, wiedzę o uzdrawianiu i innych naukach, inteligencję, odwagę i oczywiście nienasyconą ciekawość. Pandora jest agentem bogów AI. Pojawia się jako urocza młoda dziewczyna i została wysłana na Ziemię z zapieczętowanym pudełkiem zawierającym kolejny zestaw „prezentów”.
Przyjazny tytan Prometeusz ostrzegł ludzi, że puszki Pandory nie należy otwierać. Może Stephen Hawking, Elon Musk i Bill Gates to prometejscy tytani naszych czasów? Ostrzegali naukowców, że trzeba powstrzymać lekkomyślną fascynację sztuczną inteligencją, bo po uruchomieniu ludzie nie będą w stanie jej kontrolować. Algorytmy uczenia głębokiego umożliwiają komputerom sztucznej inteligencji wyodrębnianie sekwencji z ogromnych ilości danych, ekstrapolację na nowe sytuacje i podejmowanie decyzji bez pomocy człowieka. Roboty AI nieuchronnie zaczną wymyślać i same zadawać pytania. Komputery same rozwinęły już altruizm i przebiegłość. Czy sztuczna inteligencja będzie ciekawa odkrycia tajemnej wiedzy i zachowania zgodnie z jej logiką?
***
Zaciekawiona ludzka natura Pandory skłoniła ją do otwarcia skrzyni. Zaraza, smutek, nieszczęście wyleciały z puszki Pandory. W prostej wersji mitu ostatnią rzeczą, która wyleciała z puszki Pandory, jest nadzieja. Ale w bardziej szczegółowych i ciemniejszych wersjach, zamiast nadziei, ostatnią rzeczą w skrzyni było „oczekiwanie na kłopoty”. W tej wersji Pandora spanikowała i zatrzasnęła wieko, zatrzymując w środku przezorność. Pozbawiona zdolności przewidywania przyszłości ludzkość otrzymała to, co nazywamy „nadzieją”.
Od czasów starożytnych filozofowie debatowali, czy nadzieja jest najlepszą, czy najgorszą rzeczą w puszce Pandory. Dopóki ludzka pomysłowość, ciekawość i śmiałość będą nadal badać granice biologicznego życia i śmierci, ludzi i maszyn, to pytanie będzie stawać przed każdym nowym pokoleniem. Nasz świat jest oczywiście bezprecedensowy pod względem możliwości technologicznych. Ale niepokojące przeciąganie liny między naukowymi koszmarami a wspaniałymi snami jest wieczne. Starożytni Grecy wiedzieli, że najbardziej istotną cechą człowieczeństwa jest pokusa wyjścia „poza człowieka”.
Na początku tego roku inżynierowie z amerykańskiego producenta broni Raytheon stworzyli trzy małe, nadające się do szkolenia roboty. Nazywano ich starożytnymi imionami: Zeus, Atena i Herkules. Dzięki systemom neuronowym opartym na karaluchach i ośmiornicach małe roboty zasilane energią słoneczną otrzymały trzy dary: zdolność poruszania się, przyciąganie ciemności i zdolność do ładowania się na słońcu. Roboty szybko nauczyły się mutować i szybko zdały sobie sprawę, że albo muszą wyjść w potworne światło, aby się naładować, albo umrzeć. Ten pozornie łagodny konflikt w uczeniu się można porównać do „ekonomii poznawczej”, w której emocje pomagają mózgowi alokować zasoby i opracowywać strategie. Inne eksperymenty z SI uczą komputery rozpoznawania, w jaki sposób nieznajomi okazują sobie wzajemne uczucia.i jak śmiertelnicy reagują na negatywne i pozytywne emocje.
Po tym, jak Hawking ostrzegł, że „sztuczna inteligencja może zwiastować koniec rasy ludzkiej”, niektórzy naukowcy zaproponowali nauczanie robotów o ludzkich wartościach i moralności, opowiadając im historie. Bajki, powieści i inna literatura, a nawet baza danych z hollywoodzkimi wątkami filmowymi, mogą działać jako rodzaj „przewodnika po ludziach” dla komputera. Jeden z takich systemów nazywa się Szeherezada, od imienia bohaterki Tysiąca i jednej nocy, legendarnego perskiego filozofa-gawędziarza, który zapamiętał ogromną liczbę historii wymarłych cywilizacji. W tej chwili historie są proste, pokazują komputerowi, jak zachowuje się życzliwa, zdrowa psychicznie osoba. Aby wyszkolić roboty do sympatycznej interakcji z ludźmi i odpowiedniego reagowania na ich emocje, do repertuaru komputera zostaną dodane bardziej złożone wątki. Chodzi o toże historie zyskają na wartości, gdy sztuczna inteligencja osiągnie ludzki poziom umiejętności umysłowych „przenośnego uczenia się”, może rozumować symbolicznie za pomocą analogii, podejmując decyzje bez ponaglania.
Komputery można wzorować na ludzkim mózgu, ale ludzki umysł nie działa dokładnie tak, jak komputer. Dowiadujemy się, że nasze zdolności poznawcze i racjonalne myślenie zależą od emocji. Historie odwołują się do emocji, patosu. Historie żyją tak długo, jak długo budzą niejasne emocje, o ile rezonują z prawdziwymi dylematami i nadają się do refleksji. W odległej przeszłości Grecy opowiadali historie, aby zrozumieć ludzkość pragnącą przekraczać ograniczenia biologiczne. Mity biotechnologiczne są dowodem trwałości dyskursu wokół tego, co to znaczy być człowiekiem. Wgląd i mądrość mitów pomagają pogłębić nasze rozmowy na temat sztucznej inteligencji. Czy niektóre z tych mitów mogą pomóc sztucznej inteligencji lepiej zrozumieć sprzeczne aspiracje ludzkości? Być może któregoś dnia badani AI zrozumieją najgłębsze pragnienia i lęki śmiertelników,przedstawiani w starożytnych mitach i są świadomi naszych zawiłych oczekiwań wobec siebie. Ucząc się, że ludzie je przewidzieli i zastanowili się nad niektórymi wyzwaniami, które mogą pojawić się na ich drodze, badani AI mogą lepiej zrozumieć wyzwania, z którymi nas mylą.
Pojawienie się „kultury” robotów AI nie wydaje się już naciągane. Wynalazcy i mentorzy sztucznej inteligencji już teraz budują logo, etos i patos tej kultury. W miarę jak ludzie są udoskonalani dzięki technologii i coraz bardziej przypominają maszyny, w robotach budzi się coś, co przypomina ludzkość. Zbliżamy się do tego, co niektórzy nazywają nowym świtem robo-ludzkości. Kiedy nadejdzie ten dzień, jakie mity sobie opowiemy? Odpowiedź określi również, w jaki sposób i czego będą się uczyć roboty.
Autor: Adrien Mayor