Niemal każdy, kto choć trochę zagłębia się w temat sztucznej inteligencji, dochodzi do wniosku, że albo doprowadzi nas ona do ognistej apokalipsy, albo do magicznej utopii. Praktycznie nie ma opcji pomiędzy. Oczywiście wynika to częściowo z faktu, że hasła typu „Koniec jest bliski!” lub „Utopia nadchodzi!” Ale nadal…
Po części sprowadza się to do tego, jak ludzie myślą o zmianach, zwłaszcza dużych. Milenializm nie ma nic wspólnego z byciem milenialsem, urodzeniem się w latach 90. i pamięcią o serii Buffy the Vampire Slayer. To styl myślenia o przyszłości, który wiąże się z głęboko zakorzenionym poczuciem przeznaczenia. Milenializm to „oczekiwanie, że świat zostanie zniszczony i zastąpiony przez doskonały świat i że nadejdzie odkupiciel, który usunie zło i pocieszy sprawiedliwych”.
Dlatego wierzenia milenijne ściśle łączą idee zniszczenia i stworzenia. Wśród nich są pomysły na ogromne, apokaliptyczne, sejsmiczne przesunięcia, które zniszczą tkankę starego świata i zbudują coś zupełnie nowego. Podobny system wierzeń istnieje w wielu głównych religiach świata, a nawet w nie całkiem ateistycznych i agnostycznych religiach, które wierzą w technologię.
Zobacz na przykład, jak futuryści oczekują technologicznej osobliwości. Według Raya Kurzweila Osobliwość jest stworzeniem raju. Każdy stanie się nieśmiertelny dzięki biotechnologii, która leczy nasze choroby; nasze mózgi można przesłać do chmury; nierówność i cierpienie znikną jako zjawiska. „Zniszczenie świata” zostaje zastąpione ulubionym określeniem Doliny Krzemowej: zakłóceniem lub radykalną zmianą przemysłu. Podobnie jak w przypadku innych tysiącletnich przekonań, Twój ostateczny pogląd zależy od tego, czy czekasz na koniec świata, czy narodziny utopii.
Istnieje wiele dobrych powodów, aby być sceptycznym wobec tego rodzaju myślenia. Być może najbardziej przekonującym z nich jest to, że przekonania milenialsów po prostu odzwierciedlają stosunek ludzi do zmian; spójrz tylko, ile odmian tych przekonań wyrosło na świecie.
Przekonania te są obecne w aspektach teologii chrześcijańskiej, chociaż w XIX i XX wieku zyskały popularność w swojej nowoczesnej formie. Idee takie jak Wieczny Smutek - wiele lat cierpienia i trudności - oraz Pochwycenie, kiedy sprawiedliwi zostaną wskrzeszeni, a zło ukarane. Po tych zniszczeniach świat zostanie stworzony od nowa lub ludzie pójdą do raju.
Pomimo dogmatycznego ateizmu, w marksizmie było wiele podobnych przekonań. Jedyne pytanie dotyczy historii. Tak jak wierzący szukają sygnałów wskazujących na wypełnienie się proroctw, marksiści szukają znaków, że jesteśmy na końcowych etapach kapitalizmu. Wierzą, że społeczeństwo nieuchronnie ulegnie degradacji i degeneracji do samego dna - w rzeczywistości, jak wierzą chrześcijanie.
Według marksizmu, kiedy wyzysk klasy robotniczej przez bogatych staje się niemożliwy do utrzymania, klasa robotnicza gromadzi się i obala ciemięzcę. „Smutek” zostaje zastąpiony przez „rewolucję”. Czasami postacie rewolucyjne, takie jak Lenin czy sam Marks, są okrzyknięci mesjaszami, którzy przybliżają Tysiąclecie; ich retoryka nieuchronnie zawiera wezwania do zniszczenia starego systemu, na ruinach którego „zbudujemy nasz, zbudujemy nowy świat”. Sprawiedliwi robotnicy zdobędą swoje prawa, a zła burżuazja zostanie zniszczona.
Film promocyjny:
Nawet w mitologii nordyckiej jest tego element, jak zauważył James Hughes w swoim eseju w książce Nicka Bostroma Global Catastrophic Risks. W Ragnarok zarówno ludzie, jak i bogowie zostają pokonani w ostatniej apokaliptycznej bitwie, ale ponieważ to wszystko jest trochę ponure, Skandynawowie dodali pomysł nowej krainy, na której ocaleni będą żyć w harmonii.
Doomsday stał się również szlakiem kulturowym. Weźmy starożytnych Egipcjan i ich wierzenia dotyczące życia pozagrobowego; władca podziemi Ozyrys waży serce śmiertelnika razem z piórkiem. Jeśli serce zmarłego jest zbyt obciążone występkami, demon je zje, a nadzieja na życie pozagrobowe zniknie.
Być może coś takiego wydarzy się podczas osobliwości. Wraz z rozwojem naszej technologii, a tym samym naszej siły, nasze serca, serca ludzi, będą ważone przeciwko piórom. Jeśli okażą się zbyt ciężkie - z głupotą, arogancją, uprzedzeniami, złem - nie zdamy egzaminu i zostaniemy zniszczeni. Ale jeśli przejdziemy przez osobliwość, niebo nas czeka. Podobnie jak w przypadku innych systemów wierzeń, nie ma miejsca dla niewierzących; całe społeczeństwo zmieni się radykalnie, czy ci się to podoba, czy nie. Zachwyt technologiczny.
Wydaje się, że każda większa zmiana wywołuje taką odpowiedź. A także broń nuklearna. Albo będzie to ostatnia kropla i zniszczymy samych siebie, albo można użyć energii jądrowej do stworzenia lepszego świata. Na początku ery nuklearnej ludzie mówili o elektryczności „zbyt tania, by ją policzyć”. Naukowcy pracujący nad bombą często myśleli, że mając tak niszczycielską moc w rękach człowieka, po prostu będziemy musieli się spotkać i pracować razem jako gatunek.
Kiedy ciągle widzimy tę samą odpowiedź, w różnych okolicznościach, pojawiającą się w różnych dziedzinach, czy to w nauce, religii czy polityce, musimy wziąć pod uwagę ludzkie uprzedzenia. Uwielbiamy wierzenia milenialsów, więc kiedy pojawia się idea sztucznej inteligencji, która przewyższa ludzką inteligencję, od razu narzucamy znajomy wzorzec.
Nie lubimy faktów. Nie podoba nam się ta informacja. Nie jesteśmy tak racjonalni, jak nam się wydaje. Tworzymy narracje. Fizycy obserwują świat i my wplatamy własne obserwacje w narracyjne teorie, opowieści o maleńkich kulach bilardowych, które latają tu i tam i zderzają się ze sobą, lub o przestrzeni i czasie, które wyginają się, wyginają i rozszerzają. Historycy starają się nadać sens niekończącemu się strumieniowi wydarzeń. Uwielbiamy historie: historie przedstawiające naszą przeszłość, naszą teraźniejszość, a także przygotowują nas na przyszłość.
Tysiącletnia narracja jest piękna i fascynująca. On wprowadza zmiany społeczne. On może usprawiedliwić twoje codzienne cierpienie, jeśli jesteś w żałobie. Daje ci nadzieję, że twoje życie jest ważne i znaczące. Daje poczucie, że sprawy idą w określonym kierunku, zgodnie z regułami, a nie tylko w chaosie. Obiecuje, że sprawiedliwi zostaną zbawieni, a heretycy ukarani, nawet jeśli czeka ich cierpienie. Wreszcie tysiącletnia narracja obiecuje niebo na końcu tunelu.
Powinniśmy być ostrożni z tysiącletnią narracją, gdy myślimy o rozwoju technologicznym, osobliwościach i zagrożeniach egzystencjalnych. Krzyczeliśmy „wilki!” Wiele razy, kiedy ich tam nie było. Być może nawet teraz świat nie stoi na krawędzi katastrofy. Oczywiście ta historia nie jest tak atrakcyjna. Oczywiście każdy chce czarującego zakończenia.
Ale zagłęb się głębiej, a przekonasz się, że wierzenia milenijne nie zawsze są najbardziej obiecujące, ponieważ usuwają czynnik ludzki z równania. Będziemy musieli uwierzyć w odcienie szarości i porzucić złowrogą apokalipsę z czerwonooką sztuczną inteligencją i bajeczną utopią z wszechmocną AI, która uwielbia ludzi.
Ilya Khel