Niemal każdy, kto choć trochę zagłębił się w temat sztucznej inteligencji, musi dojść do wniosku, że sztuczna inteligencja albo doprowadzi nas do straszliwej apokalipsy, albo bezpośrednio do bajkowej utopii. I praktycznie nie ma opcji pośrednich. Oczywiście jest to częściowo podyktowane faktem, że głośne hasła typu „Koniec jest bliski!”. lub na przykład „Nadchodzi Utopia!” Ale nadal…
Po części sprowadza się to do tego, jak ludzie myślą o zmianie, zwłaszcza o dużej zmianie. Milenializm nie ma nic wspólnego z urodzeniem się w latach 90., byciem „milenialsem” i pamiętaniem serialu o Buffy, zwyciężczyni wampira. To styl myślenia o przyszłości, który wiąże się z głęboko zakorzenionym poczuciem przeznaczenia. Milenializm to „oczekiwanie, że nasz świat zostanie zniszczony i zastąpiony przez świat doskonały i że pojawi się odkupiciel, który porzuci wszelkie zło i będzie mógł pocieszyć sprawiedliwych”.
W związku z tym wierzenia milenialsów ściśle łączą idee stworzenia i zniszczenia. Wśród nich - pomysły apokaliptycznych, ogromnych, sejsmicznych zmian, które mogą zniszczyć tkankę starego świata i zbudować coś zupełnie nowego. Podobny system wierzeń istnieje w wielu głównych światowych religiach, a nawet w nie tak bardzo agnostycznych i ateistycznych religiach, które wierzą raczej w technologię niż w boskie istoty.
Rozważmy na przykład, w jaki sposób futuryści przewidują technologiczną osobliwość. Według Raya Kurzweila osobliwość jest podobna do stworzenia raju. Każdy będzie nieśmiertelny, bo pojawi się biotechnologia, która może wyleczyć nasze choroby; a nasze mózgi mogą zostać przesłane do chmury; cierpienie i nierówność znikną jako zjawiska. „Zniszczenie świata” zostaje zastąpione ulubionym określeniem Doliny Krzemowej: zakłóceniem, które jest radykalną zmianą w branży. I podobnie jak w przypadku innych tysiącletnich przekonań, Twój ostateczny pogląd zależy w dużym stopniu od tego, czego oczekujesz: narodzin utopii lub końca świata.
Istnieje wiele bardzo dobrych powodów, aby być sceptycznym wobec tego rodzaju myślenia. Być może najbardziej przekonującym z tych powodów jest to, że wszystkie przekonania millenialsów po prostu odzwierciedlają postawy ludzi wobec zmian; zobacz tylko, jak wiele odmian tych przekonań rozwinęło się na świecie.
Przekonania te można znaleźć w aspektach teologii chrześcijańskiej, chociaż w XIX i XX wieku zyskały popularność w swojej nowoczesnej formie. Idee takie jak wieczny smutek, wiele lat udręki i cierpienia oraz pochwycenie, kiedy sprawiedliwi zostaną wskrzeszeni, a zło zostanie ukarane. Po całym tym zniszczeniu świat zostanie odtworzony lub ludzie pójdą do nieba.
Pomimo dogmatycznego ateizmu, w marksizmie było również wiele podobnych wierzeń. Jedyne pytanie dotyczy historii. Tak jak wierzący szukają sygnałów, które mogą wskazać na wypełnienie się wszystkich proroctw, tak marksiści szukają znaków, że jesteśmy na końcowym etapie kapitalizmu. Uważają, że społeczeństwo degraduje się i nieuchronnie degeneruje się do samego dna - w rzeczywistości, jak myślą również chrześcijanie.
Jak twierdzi marksizm, kiedy wyzysk klasy robotniczej przez bogatych jest nie do utrzymania, klasa robotnicza gromadzi się i obala ciemięzcę. „Smutek” zostaje zastąpiony „rewolucją”. Czasami rewolucyjne postacie, takie jak Lenin czy sam Marks, są ogłaszane mesjaszami, którzy przybliżają Tysiąclecie; ich retoryka zawsze zawiera wezwania do zniszczenia starego systemu, na ruinach którego „zbudujemy swój, zbudujemy nowy świat”. Sprawiedliwi robotnicy dostaną to, na co zasługują, a zła burżuazja zostanie zniszczona.
Film promocyjny:
Nawet w mitologii nordyckiej jest tego element, jak zauważył James Hughes w swoim eseju w książce Nicka Bostroma Global Catastrophic Risks. W Ragnarok zarówno ludzie, jak i bogowie zostają pokonani w ostatniej apokaliptycznej bitwie, ale ponieważ to wszystko jest trochę ponure, Skandynawowie dodali pomysł nowej krainy, na której ocaleni będą żyć w harmonii.
Doomsday stał się również szlakiem kulturowym. Weźmy starożytnych Egipcjan i ich wierzenia dotyczące życia pozagrobowego; władca podziemi Ozyrys waży serce śmiertelnika razem z piórkiem. Jeśli serce zmarłego jest zbyt obciążone występkami, demon je zje, a nadzieja na życie pozagrobowe zniknie.
Prawdopodobnie coś podobnego wydarzy się podczas osobliwości. Wraz z rozwojem naszej technologii, a tym samym naszej siły, nasze serca, serca ludzi, będą ważone przeciwko piórom. Jeśli okażą się zbyt ciężkie - z głupotą, arogancją, uprzedzeniami, złem - nie zdamy egzaminu i zostaniemy zniszczeni. Ale jeśli przejdziemy przez osobliwość, niebo nas czeka. Podobnie jak w przypadku innych systemów wierzeń, nie ma miejsca dla niewierzących; całe społeczeństwo zmieni się radykalnie, czy ci się to podoba, czy nie. Zachwyt technologiczny.
Wydaje się, że każdy większy rozwój wydarzeń wywołuje podobną reakcję. A także broń nuklearna. Albo będzie to ostatnia kropla i zniszczymy samych siebie, albo można wykorzystać energię jądrową do stworzenia lepszego świata. Na początku ery nuklearnej ludzie mówili o elektryczności „zbyt tania, by ją policzyć”. Naukowcy pracujący nad bombą często myśleli, że mając tak niszczycielską moc w rękach ludzi, musielibyśmy po prostu spotkać się i pracować razem jako gatunek.
Kiedy ciągle widzimy tę samą odpowiedź, w różnych okolicznościach, pojawiającą się w różnych dziedzinach, czy to w nauce, polityce czy religii, musimy wziąć pod uwagę ludzkie uprzedzenia. Uwielbiamy wierzenia milenialsów, więc kiedy pojawia się idea sztucznej inteligencji, która przewyższa ludzką inteligencję, od razu narzucamy znajomy wzorzec.
Nie lubimy faktów. Nie podoba nam się ta informacja. Nie jesteśmy tak racjonalni, jak nam się wydaje. Tworzymy narracje. Fizycy obserwują świat i my wplatamy własne obserwacje w narracyjne teorie, opowieści o maleńkich kulach bilardowych, które latają tu i tam i zderzają się ze sobą, lub o przestrzeni i czasie, które wyginają się, wyginają i rozszerzają. Historycy starają się nadać sens niekończącemu się strumieniowi wydarzeń. Uwielbiamy historie: historie przedstawiające naszą przeszłość, naszą teraźniejszość, a także przygotowują nas na przyszłość.
Tysiącletnia narracja jest bardzo piękna i fascynująca. On wprowadza zmiany społeczne. On może usprawiedliwić twoje codzienne cierpienie, jeśli jesteś w żałobie. Daje ci nadzieję, że twoje życie jest ważne i znaczące. Daje poczucie, że sprawy idą w określonym kierunku, zgodnie z regułami, a nie tylko w chaosie. Obiecuje, że sprawiedliwi zostaną zbawieni, a heretycy ukarani, nawet jeśli czeka ich cierpienie. Wreszcie tysiącletnia narracja obiecuje niebo na końcu tunelu.
Musimy uważać na tysiącletnią narrację, kiedy myślimy o rozwoju technologicznym, osobliwości i ryzyku egzystencjalnym. Krzyczeliśmy „wilki!” Wiele razy, kiedy ich tam nie było. Być może nawet teraz świat nie stoi na krawędzi katastrofy. Oczywiście ta historia nie jest tak atrakcyjna. Oczywiście każdy chce czarującego zakończenia.
Ale zagłęb się głębiej, a przekonasz się, że wierzenia milenijne nie zawsze są najbardziej obiecujące, ponieważ usuwają czynnik ludzki z równania. Będziemy musieli uwierzyć w odcienie szarości i porzucić złowrogą apokalipsę z czerwonooką sztuczną inteligencją i bajeczną utopią z wszechmocną AI, która uwielbia ludzi.