Szwedzki filozof Nick Bostrom, dyrektor Oxford Institute for the Future of Humanity, słynie z pracy nad zagrożeniami egzystencjalnymi, zasadą antropiczną, etyką doskonalenia człowieka i zagrożeniami, jakie stwarza sztuczna inteligencja. Napisał „Proof of Simulation”, w którym sugeruje, że naszą rzeczywistość można symulować na komputerze stworzonym przez jakąś zaawansowaną cywilizację. W czerwcu Nick Bostrom odwiedził Rosję, aby wziąć udział w Międzynarodowym Kongresie Cyberbezpieczeństwa zorganizowanym przez Sberbank przy wsparciu gospodarki ANO Tsifrovaya i Stowarzyszenia Banków Rosyjskich. Specjalny korespondent „Lenta.ru” rozmawiał z Bostromem o powstaniu maszyn, światowym rządzie i transhumanizmie, a także dowiedział się, po co żyć, skoro „Matrix” jest w pobliżu.
Jakie jest znaczenie futurologii? Jeśli spojrzymy na przewidywania futurystów z przeszłości, prawie żadne z ich przewidywań nie okazało się trafne
Bostrom: Mówiąc o tej dyscyplinie, nie sądzę, żeby miała jakąkolwiek wartość.
Nick Bostrom. Zdjęcie: Tom Pilston dla The Washington Post / Getty Images.
Tak, ale próbujesz tylko przewidzieć pewne globalne wydarzenia w przyszłości
Nie opisałbym jako futurologia tego, co robię ja lub grupa badaczy pod moim kierownictwem. Robimy pewne rzeczy. Przede wszystkim opracowujemy koncepcje, aby łatwiej było znaleźć wzorce między wydarzeniami w teraźniejszości a ich długofalowymi konsekwencjami, zobaczyć, dokąd mogą nas zaprowadzić i czy można coś zasadniczo zmienić.
Próbujemy też dowiedzieć się, które zmiany doprowadzą do pozytywnego wyniku, a które do negatywnego. Na przykład koncepcja ryzyka egzystencjalnego, prowadząca do tego, że inteligentne życie wymrze lub utknie w jakimś radykalnym, nieoptymalnym stanie. W tym przykładzie konsekwencje egzystencjalnej katastrofy są rzeczywiście bardzo łatwe do przewidzenia i niezwykle istotne z punktu widzenia pewnej perspektywy wartości, co oznacza, że przyszłość ma ogromne znaczenie. Wszystko to pomoże więc skupić się na konsekwencjach pewnych działań.
Film promocyjny:
Ale niektóre z naszych badań są znacznie bardziej szczegółowe. Na przykład mamy grupę specjalistów zajmujących się bezpieczeństwem sztucznej inteligencji (to podrozdział informatyki), ponieważ uważamy, że takie spostrzeżenia na pewno będą potrzebne w przyszłości.
Czy naprawdę powinniśmy się bać takich rzeczy, jak silna sztuczna inteligencja, upadek ciała niebieskiego, inwazja obcych cywilizacji? Czy nie sądzisz, że kiedy takie autorytety jak ty, Elon Musk czy Stephen Hawking mówią o takich rzeczach, to odwracają uwagę społeczeństwa od bardziej palących problemów?
Nie sądzę, że powinniśmy myśleć tylko o problemach, które mamy teraz. Powinniśmy pomyśleć o tym, dokąd zmierzamy. Musisz martwić się zarówno teraźniejszością, jak i przyszłością. Założenie kierunkowskazów i niezauważenie ścieżek prowadzących do klifu byłoby dużym błędem.
Czy naprawdę myślisz, że sztuczna inteligencja może stanowić zagrożenie dla ludzkości?
Oczywiście, to silna sztuczna inteligencja może stanowić zagrożenie - a nie ta, która istnieje teraz. Potrafię sobie wyobrazić pewne scenariusze, kiedy jest to możliwe. Jednak postrzegam je bardziej jako portal, przez który ludzkość musi przejść drogę ku lepszej przyszłości, co implikuje nieunikniony rozwój superinteligencji maszynowej. Nie chodzi więc o to, czy ten krok należy podjąć, czy nie. Po prostu, kiedy to robimy, powinniśmy być jak najbardziej ostrożni i odpowiedzialni. Musimy się upewnić, że przejdziemy przez portal i nie uderzymy o ścianę.
Ale czy ludzkość musi przejść przez ten portal, jeśli silna sztuczna inteligencja okaże się lepsza, mądrzejsza, szybsza od człowieka? Ogólnie rzecz biorąc, dlaczego, w sensie filozoficznym, potrzebna jest osoba, skoro silna sztuczna inteligencja będzie stanowiła doskonalsze narzędzie do samopoznania wszechświata?
Myślę, że powinniśmy używać maszyn jako przedłużenia ludzkiej woli, aby mogły nam przynieść korzyści. I jest to możliwe. Ale są też zagrożenia, które mogą uniemożliwić nam osiągnięcie tego celu.
Próbuję zapytać, czy istnienie niedoskonałego życia organicznego ma sens, jeśli maszyna jest lepsza? Dlaczego ludzkość miałaby istnieć po opracowaniu silnej sztucznej inteligencji?
Wiesz, wszystko zależy od alternatyw - jaki wynik będzie dla ludzkości i jakie będą te inne formy życia. Nie sądzę, że jeśli coś okaże się bardziej rozsądne, skuteczniejsze w sensie ewolucyjnym niż osoba, to z punktu widzenia moralności będzie lepsze niż osoba. Wyobrażam sobie różne skutki prowadzące do znacząco negatywnych konsekwencji: np. Skrajnie zaawansowana cywilizacja technologiczna może stracić uniwersalne wartości. Ale z pewnością nie wierzę, że ludzie w ich obecnej formie są idealnymi istotami, które nie mają gdzie ewoluować. I nie mówię tutaj tylko o poprawie biologicznych form życia - można sobie wyobrazić pozytywne scenariusze, w których ludzkość stanie się całkowicie cyfrową formą życia.
Więc myślisz, że świadomość można przenieść do samochodu?
Tak, ale wraz z pojawieniem się wystarczająco dojrzałej technologii, nie dzisiaj.
Dlatego wierzysz, że świadomość to wyłącznie procesy numeracji?
Tak.
Co sądzisz o pracach filozofów, którzy postulują dualistyczną naturę świadomości - że świadomość jest subiektywnym zjawiskiem, które istnieje poza obiektywnym światem? Na przykład, jak opisuje to australijski filozof David Chalmers
Jestem zwolennikiem teorii, że świadomość to liczba. Oczywiście nie wierzę, że to, co czyni nas świadomymi istotami, daje nam subiektywne doświadczenie, zależy od tego, że jesteśmy po prostu zbudowani z atomów węgla. Ale nasz mózg wytwarza pewne procesy numeracyjne, które w zasadzie można uruchomić w innym środowisku. I to jest postulat kluczowy - ważny jest nie materiał, ale same cechy funkcjonalne procesu numeracji.
A fakt, że postrzegam świat poprzez swoją świadomość, to tylko zbiór impulsów nerwowych w moim mózgu?
Dokładnie. Wierzę, że twój mózg daje początek twojej świadomości. Ale pytanie brzmi, co jeszcze może wytworzyć twoją świadomość. Myślę, że w zasadzie nie musi to być struktura organiczna. Może to być na przykład komputer.
Ale czy będzie świadomy siebie, będzie miał taką subiektywność?
Uważam, że można stworzyć samoświadome komputery. Ponownie, nie jest to teraz możliwe, ale w przyszłości nie widzę żadnych przeszkód.
Gdyby był samoświadomy, czy ludzkość nie musiałaby akceptować go jako równej inteligentnej formy życia?
Wydaje mi się, że może istnieć wiele zupełnie różnych cyfrowych umysłów, znacznie bardziej zróżnicowanych niż ludzkie. Chociaż uważamy, że wszyscy jesteśmy bardzo różni - Matka Teresa, Hitler, najmądrzejsza osoba na świecie i najgłupsza - wszyscy jesteśmy do siebie strasznie podobni, mózg każdego z nas niewiele różni się od każdego innego ludzkiego mózgu. Wszystko to około półtora kilograma setek miliardów neuronów. Ale cyfrowe umysły mogą być dla nas bardzo, bardzo różne i „obce” (niektóre oczywiście mogą być podobne do naszych, a inne nie).
Jednocześnie uważam, że niektórym cyfrowym umysłom (zwłaszcza tym, które będą miały świadomość, będą w stanie odczuwać ból, presję itp.) Zostaną przypisane różne stopnie statusu moralnego. W miarę rozwoju coraz bardziej wyrafinowanej i wyrafinowanej sztucznej inteligencji, inteligencji cyfrowej, będziemy musieli zmierzyć się z pewnym problemem etycznym. I nie tylko o tym, jak AI wpłynie na nas lub jak jedna osoba może zastosować sztuczną inteligencję w stosunku do innej osoby, ale także o tym, jak będziemy odnosić się do tego cyfrowego umysłu.
Przypuśćmy, że zbudowałem mały kopiec z kamieni i zniszczyłem go - nikomu nie skrzywdziłem. Jeśli, oczywiście, zbudujesz go, a ja go zniszczę, to może ci zaszkodzić, ale sam kopiec nie ma statusu moralnego. Powiedzmy, że pies to ma i dlatego źle jest kopać psa. Tak samo jest ze świadomym umysłem cyfrowym, nawet jeśli na początku jego świadomość jest na tym samym poziomie, co świadomość zwierzęcia. Rodzi to etyczne pytanie, jak powinniśmy to traktować. I wierzę, że wkrótce nadejdzie czas, aby poważnie o tym pomyśleć, nie tylko w ramach seminariów filozoficznych, ale także w szerokiej publicznej dyskusji.
Kadr: film „Keepers”.
Jeśli mówimy o zagrożeniach globalnych, czy wzrost liczby autorytarnych reżimów na świecie można uznać za jeden z nich?
Tak, myślę, że jest to jeden z możliwych scenariuszy dystopijnej przyszłości, który można sobie wyobrazić, jeśli różne trendy społeczno-polityczne rozwijają się w złym kierunku wystarczająco długo. Niektóre zaawansowane technologie mogą ułatwić rozwój tych trendów: lepszy nadzór obywateli, bardziej zaawansowane drony …
Teraz, aby rządzić krajem, nawet jeśli jesteś dyktatorem, potrzebujesz wsparcia wojska i elit. Można sobie wyobrazić, że przy pomocy technologii sztucznej inteligencji i robotyki liczba potrzebnych do tego osób będzie się stale zmniejszać. W końcu może się okazać, że kilkanaście osób będzie w stanie rządzić ludnością dużego kraju, a to daje bogate możliwości utrzymania istnienia despotycznych reżimów.
A więc tak - to jedno z zagrożeń, ale jest też możliwość, że te trendy społeczno-polityczne pójdą w innym kierunku.
Często rozmawiasz i piszesz o singletonie - stowarzyszeniu stanowym, w którym decyzje podejmuje jeden organ światowy …
Jeśli spojrzeć na historię naszego gatunku, to początkowo największą jednostką integracji politycznej były kolektywy łowców-zbieraczy, składające się maksymalnie z pięćdziesięciu osób. Z biegiem czasu plemiona powstawały pod przywództwem przywódców, następnie państw-miast, a następnie państw narodowych. Teraz mamy stowarzyszenia takie jak Unia Europejska, różne organizacje międzynarodowe i będzie to trwało, aż pojawi się singleton. Oznacza to, że jest to kontynuacja wieloletnich trendów historycznych.
Jak rozumiem, postulowałeś, że mogą istnieć dwa typy singletonów: „zły” - autorytarny i „dobry” - egalitarny …
W ogóle nie uważam „złego” singletona za koniecznie autorytarnego, a „dobrego” - egalitarnego. Istnieją różne okoliczności, w których singleton może być „dobry” lub „zły”.
Wytłumacz, proszę
Nie wiem nawet, jak to wszystko podsumować … Ale oczywiście można sobie wyobrazić „złego” egalitarnego singletona. Powiedzmy, że z różnych powodów może być niekompetentny lub nieskuteczny. Na przykład, gdyby wszyscy żyli równie źle, byłby to wynik całkowicie egalitarny, prawda? Ale nadal źle.
Czy jest więc możliwość pojawienia się „dobrego” autorytarnego singletona?
Cóż, być może w porównaniu z różnymi alternatywami, w sytuacji, gdy u steru stoi dyktator o dobrych intencjach … „Dobry” i „zły” to terminy względne używane w kontekście innych możliwych sytuacji. Powiedzmy, że jeśli alternatywą jest globalna katastrofa, to wynik byłby stosunkowo dobry.
Ale co, jeśli wyobrazisz sobie idealnego egalitarnego singletona? Wszystko to wygląda na rodzaj utopii, w której ludzie żyją bez konfliktów i wojen w pełnej harmonii. Ale konflikty są nieodłączną częścią ludzkiej natury
Natura ludzka nie jest odlana z brązu. Jeśli weźmiemy pod uwagę sytuację, w której osiągnięto dojrzałość technologiczną cywilizacji (mam tu na myśli zarówno biotechnologiczne, jak i kulturowe środki zmiany jej różnych aspektów), jeśli stawiamy sobie za cel osiągnięcie dobra wspólnego, może to być dobry powód do modyfikowania natury ludzkiej.
Jak dokładnie można to osiągnąć? Stać się mniej agresywny, bardziej przychylny i tak dalej? W końcu ludzie zwykle nie ufają obcym, grupują się w stowarzyszenia sprzeciwiające się innym stowarzyszeniom
Tak, i to jest ich wybór i można go zmienić. Ale jeśli jedna grupa ludzi źle traktuje inną, to mogą zdecydować się nie zmieniać w taki sposób, aby znaleźć wspólny język z inną.
Czyli najprawdopodobniej nie można zmienić ludzkiego zachowania w skali globalnej?
Dokładnie. Tutaj mówimy o zmianie motywacji, a wcześniej mówiłem o możliwości takiej zmiany, gdy pojawią się możliwości technologiczne. I wtedy oczywiście pojawia się pytanie, czy ludzie zdecydują się wykorzystać je do osiągnięcia tego celu.
A propos, o technologii. Zawsze boimy się nowych technologii. Na przykład niedawno przeczytałem kolumnę w amerykańskiej publikacji, której autor prowadził kampanię przeciwko rezygnacji z papierowych pieniędzy gotówkowych, ponieważ płatności bezgotówkowe rzekomo dają bankom zbyt wiele możliwości kontrolowania populacji. Czy zgadzasz się z tym punktem widzenia? Czy to naprawdę zagrożenie dla społeczeństwa?
Gotówka to anonimowe zabezpieczenie. Możesz płacić banknotami i nie zostać zidentyfikowanym. Wszystko to ogranicza zdolność banków i państwa do kontrolowania codziennego życia obywateli, co w pewnych okolicznościach może być całkiem przydatne - na przykład w despotycznych reżimach. Ale z tych samych powodów otwiera drogę dla wszelkiego rodzaju negatywnych transakcji. Działalność przestępcza polega na anonimowych płatnościach, przekazywaniu rachunków w kopertach lub ich współczesnym odpowiedniku - płatnościach w kryptowalutach. Są znacznie trudniejsze do przeprowadzenia, powiedzmy, za pośrednictwem systemu VISA, gdzie Twoje dane osobowe są powiązane z każdą transakcją.
Dlatego bardzo trudno jest zdecydować, w którym kierunku „przesunąć suwak”. Istnieją różne scenariusze, w których możesz chcieć mieć większą kontrolę społeczną nad transakcjami, aby na przykład utrudnić życie organizacjom przestępczym. Ponieważ ich działalność jest szkodliwa dla społeczeństwa, najprawdopodobniej będziesz chciał mieć sposoby na ich ograniczenie, a jednym z nich jest regulowanie transakcji finansowych.
To jest jeden przykład. Ale co z aktywistami, którzy wzywają do zakazu korzystania z Ubera i podobnych usług, ponieważ, jak mówią, naruszają prawa taksówkarzy?
Nie wiem, jakie prawa łamie Uber. Myślę, że po prostu nie chcą konkurencji.
Czy myślisz, że takich ludzi można nazwać neoluddytami?
Musisz przyjrzeć się argumentacji konkretnych osób. W każdym razie nie sądzę, aby etykietowanie ich prowadziło do zrozumienia ich stanowiska. Musisz wysłuchać ich argumentów i zdecydować, czy są dobre z Twojego punktu widzenia, czy nie.
Kadr: film „Równowaga”.
Porozmawiajmy o transhumanizmie. Istnieje popularna krytyka transhumanizmu, zgodnie z którą biotechnologia, modyfikacje ciała nie będą dostępne dla osób biednych i obywateli o średnich dochodach. Tylko bogaci - zaledwie jeden procent populacji - mogą je zdobyć, a to doprowadzi do katastrofalnego wzrostu nierówności w społeczeństwie. To nie jest prawda? A może uważasz, że wszystko jest sprawiedliwe: bogaci i odnoszący sukcesy powinni mieć to, co najlepsze?
Należy to przeanalizować na konkretnych przykładach. Nie uważam, że cała biotechnologia stosowana do ulepszania organizmu ludzkiego powinna być droga. Weźmy na przykład współczesny modafinil, lek stosowany w celu poprawy wydajności poznawczej (powiedzmy, że pomaga niektórym ludziom). Jasne, to kosztuje, ale nie więcej niż szklanka cappuccino Starbucks, którą piją codziennie. A jeśli wykonuje swoją pracę, jest wart swojej ceny.
Współczesne środki farmakologiczne, które w jakiś sposób poprawiają określone właściwości człowieka, na ogół nie są bardzo drogie. Problem polega raczej na tym, że trzeba na nie dostać recepty. Łatwiej zdobyć taki lek osobie z dobrym wykształceniem. Przede wszystkim dowie się o istnieniu tego środka, łatwiej będzie mu znaleźć lekarza, którego zna, który może mu wypisać tę receptę … Wszystko to będzie znacznie trudniejsze dla niewykształconego robotnika czy chłopa niż intelektualisty, bankiera i tak dalej. Ale przeszkoda tkwi w tym, a nie w samej kwocie pieniędzy.
Oczywiście, jeśli mówimy o technologiach przyszłości, mogą one być bardzo drogie i dyskryminujące w tym sensie. Społeczeństwo będzie musiało zdecydować, czy są one na tyle przydatne, aby je dotować - w tym samym sensie, w jakim są teraz dostarczane dotacje na opiekę zdrowotną.
Jeśli mówimy o dotacjach, co myślisz o dochodzie gwarantowanym, kwocie pieniędzy regularnie wypłacanych przez państwo każdemu członkowi społeczeństwa, niezależnie od tego, czy pracuje, czy nie? Czy powinno stać się powszechną praktyką ludzką?
Myślę, że do tego problemu należy podejść z tego samego punktu widzenia, co sztuczna inteligencja: powinien przynosić korzyści całej ludzkości i być zgodny z ideałami etycznymi. Wydaje mi się, że wszyscy ludzie, którzy osiągną określony wiek, powinni otrzymać część określonych świadczeń. Jak najlepiej to zrobić, będzie to stały strumień dochodu lub pewien wpłacony jednorazowo kapitał, który jednostka może następnie wydać według własnego uznania na określone usługi i towary, jeszcze nie wiem. Utrzymanie nieprzerwanego dopływu dochodów zależy również od sytuacji gospodarczej. A w dłuższej perspektywie należy rozumieć, że najprawdopodobniej będziemy musieli zmierzyć się z wykładniczym wzrostem liczby ludności na świecie, który może przewyższyć wzrost światowej gospodarki - nieco maltuzjański argument.
Czy uważasz, że obecny europejski system opieki społecznej - Welfer - ma wady?
Wydaje mi się to całkiem dobre. Oczywiście są sposoby, aby to poprawić. Ale w każdym razie dobrze jest, gdy w bogatych gospodarkach istnieje system opieki społecznej, na który stać.
Co myślisz o współczesnej lewicowej polityce - politycznej poprawności, inkluzywności i tak dalej? Czy naprawdę działa dla dobra wszystkich?
Z jednej strony obecność rzeczy, o których nie można mówić i o których nie można myśleć, pozbawia mnie jako filozofa pewnych możliwości. Myślę, że czasami gorzka prawda jest dobra, nawet jeśli kogoś obraża, a za tabuowanie dyskusji o tym, co jest częścią współczesnej rzeczywistości, trzeba zapłacić niemałą cenę.
Z drugiej strony, jeśli przyczyni się to do budowy bardziej wrażliwego społeczeństwa na problemy wspólnoty, której przedstawiciele starają się nie wyrządzać sobie wzajemnie krzywdy, obniżając w ten sposób poziom agresji i przemocy … Wszystko to może się okazać niezwykle pozytywne, nawet jeśli jest to pewne ryzyko. Widzisz, jeśli bardzo zależy ci na poprawności politycznej w drobnych codziennych sprawach, prawdopodobieństwo, że zamierzasz przeprowadzić jakąś poważną i brutalną czystkę etniczną lub rozpocząć wojnę, jest znacznie zmniejszone. Ogólnie rzecz biorąc, jeśli uczyni nas bardziej wrażliwymi w małych sprawach, to pomoże w sensie globalnym, a wszystkie drobne niedociągnięcia takich programów będą w pełni uzasadnione.
Czytałem w jednej z twoich publikacji, że współczesna kultura zachodnia „aktywnie sabotuje naszą płodność z powodu wprowadzenia antykoncepcji”. Dość konserwatywny argument. Możesz to wyjaśnić?
O to mi chodziło: jeśli nie zastosujesz antykoncepcji, będziesz mieć więcej dzieci, co oznacza, że więcej dzieci przeżyje. Obecnie ludzie rodzą mniej dzieci, niż mogliby, co oznacza, że nie są w ewolucyjnej równowadze ze współczesnym środowiskiem.
Czy powinniśmy nadać pierwszorzędną rolę ewolucji biologicznej zamiast społecznej?
Uważam, że przede wszystkim główną rolę powinny odgrywać uniwersalne wartości ludzkie, a nie jakieś zadania biologiczne.
Dlaczego więc nie zastosować antykoncepcji?
Oczywiście możesz sabotować swój potencjał reprodukcyjny, ale musisz być świadomy tego, co robisz, a to jest bardzo korzystne. Przykładowo, jeśli rozważasz długoterminowe scenariusze rozwoju ludzkiej cywilizacji, musisz liczyć się z tym, że ludzie, którzy sabotują potencjał reprodukcyjny, w jakiś sposób znikną z powierzchni ziemi. Ich genów nie będzie w planetarnej puli genów, chyba że ta polityka zostanie zmieniona.
Teraz, na krótką metę, nie musisz o tym myśleć, ale powinieneś być świadomy, że tutaj działasz przeciwko różnym tendencjom ewolucyjnym. I ważne jest, aby zdać sobie sprawę, że będzie to miało pewien wpływ na dłuższą metę.
Kadr: film „Lucy”.
Czy ewolucja biologiczna nadal działa w społeczeństwie ludzkim?
Oczywiście. Działa w populacji ludzkiej tak samo, jak w innych populacjach. Oczywiście współczesne środowisko, w którym żyjemy, bardzo różni się od środowiska ewolucyjnych zdolności adaptacyjnych, ale uważam, że obecnie w populacji ludzkiej istnieje bardzo silna selekcja ewolucyjna. W ekologicznej skali czasu przebiega szybko, ale powiedzmy, w odniesieniu do skali czasu postępu technicznego, wręcz przeciwnie, bardzo wolno. Nawet jeśli selekcja jest bardzo szybka, musi minąć wiele pokoleń, zanim nastąpi duża zmiana. Jednocześnie myślę, że za niecałe kilka pokoleń otrzymamy doskonałe narzędzia do manipulacji ludzkim genomem i inne możliwości zmiany stanu człowieka. Dlatego nie przejmuję się zbytnio powolnymi trendami w ewolucji biologicznej, biorąc pod uwagę perspektywę takich technologii na horyzoncie.
Czy powinniśmy wybrać ścieżkę doskonalenia puli genów poprzez biotechnologię - wybierając „złe” geny i zachowując „dobre”? Czy to nie doprowadzi do społecznego darwinizmu?
Nie sądzę, aby medycyna genetyczna czy selekcja genetyczna zakładały społeczne podejście darwinowskie. Możesz zobaczyć, jak to się dzieje teraz: kiedy pary decydują się na zapłodnienie pozaustrojowe, zarodki przechodzą diagnostykę genetyczną. Zamiast tylko sprawdzać komórki pod kątem nieprawidłowości chromosomowych, możemy zdiagnozować szeroki zakres problemów, w tym te niezwiązane z chorobą. Na przykład predyspozycje do długiego, zdrowego życia, inteligencja, zdolności atletyczne, cechy osobowości … Będziesz miał więcej informacji, aby wybrać, który z 6-8-10 zarodków zostanie wszczepiony podczas zabiegu IVF. I wydaje mi się, że ten właśnie kontekst jest najbardziej prawdopodobny w kontekście wykorzystania technologii genetycznych.
Jesteś autorem "dowodu symulacji", według którego możemy żyć w rzeczywistości symulowanej na jakimś komputerze. Jak może to sobie wyobrazić zwykły człowiek? Na początku jest trudny do strawienia
Nie bardzo rozumiem, jakie zadanie stawiasz. Musisz tylko zaakceptować, że nic się nie zmienia, po prostu podstawą tej obserwowalnej rzeczywistości, w której istniejemy, nie są podstawowe prawa fizyki, ale jakiś program komputerowy wbudowany w komputer, stworzony przez jakieś zaawansowane inteligentne istoty - być może bardziej zaawansowane technologicznie. cywilizacja (prawdopodobnie superinteligentna). Więc wszystko, co widzimy, to procesy działające na tym komputerze, ale dla mieszkańców tej symulacji - nas - nie ma dużej różnicy na jej podstawie.
Ciekawiej jest zastanowić się nad praktycznymi powodami stworzenia takiej symulacji. Mogą być różne, ich autorzy mogą uruchamiać inne symulacje, aby rozwiązać inne problemy. Istnieje wiele opcji zakończenia symulacji - i tak dalej. To naprawdę ma znaczenie w porównaniu z sytuacją, w której ta rzeczywistość byłaby podstawowa.
Jeśli mówimy o komputerze, który symuluje rzeczywistość, co z prawami fizyki? Taki komputer będzie gigantyczny i pochłonie niewyobrażalną ilość energii, inaczej jak obliczyć każdą cząstkę elementarną?
Pewnie. Dlatego nie sądzę, aby ta cywilizacja naśladowała wszystkie szczegóły rzeczywistości, łącznie z atomami. Uważam, że bardziej racjonalne jest naśladowanie tych części rzeczywistości, które obserwujemy w momencie ich obserwowania (może więcej).
Weźmy na przykład atomy stołu, przy którym siedzisz. Nie masz pojęcia, co się teraz z nimi dzieje. Wystarczy znać wymiary stołu, jego kolor, wagę. A w symulacji wystarczy obliczyć tylko te atrybuty. Jeśli weźmiesz mikroskop elektronowy i umieścisz pod nim kawałek stołu, zobaczysz więcej szczegółów, które zostaną specjalnie do tego obliczone. Ale zostaną one obliczone tylko w taki sposób, że ty, zwykły człowiek, nie zauważysz żadnych anomalii.
Tak więc, jeśli jesteś superinteligencją, która całkowicie kontroluje rzeczywistość - aż do wszystkich aspektów jej elementów, rozsądnie jest dodawać szczegóły, kiedy zwracasz na nie uwagę.
Okazuje się, że rzeczywistość jest symulowana dla wszystkich siedmiu miliardów ludzi żyjących na ziemi? Dla zwierząt? Dla kosmitów?
Wszystko zależy od rodzaju symulacji. Jeśli mówimy o symulacji dla wszystkich żyjących ludzi, można sobie wyobrazić, że obejmuje ona całą historię ludzkości i została uruchomiona całkiem niedawno. Możesz również wyobrazić sobie symulację wykonywaną dla jednej konkretnej osoby lub małej grupy osób. Wtedy oczywiście pojawia się pytanie: w jaki sposób wszyscy inni ludzie, których w nim widzimy, są tutaj, nie będąc istotami świadomymi? Być może są symulowane tylko pod względem wyglądu, podobnie jak awatary znalezione w grach wideo. Pozostaje nierozwiązane pytanie: jak naśladować zewnętrzne zachowanie ludzi bez wywoływania, jako skutku ubocznego, świadomości, którą, jak zwykle zakładamy, posiada każdy człowiek? Więc prawdopodobnie stworzenie wiarygodnej osoby pod względem zachowania,będziesz musiał symulować procesy zachodzące w jego mózgu ze szczególną dokładnością, co w taki czy inny sposób powinno doprowadzić do powstania świadomego umysłu. Chociaż oczywiście istnieje możliwość, że możesz to po prostu sfałszować. A potem możemy sobie wyobrazić istnienie małej grupy symulacji - ludzi, w których świadomość całkowicie się rozwinęła, podczas gdy reszta to tylko dodatki.
Zgodnie z twoją hipotezą, w symulacji może być wiele symulacji - takich jak lalki gniazdujące. Czy istnienie podstawowego, nie naśladowanego wszechświata jest w tym przypadku obowiązkowe? Jak się pojawił i co to jest?
Mój argument zakłada, że istnieje pewien podstawowy poziom rzeczywistości fizycznej, w którym niektóre stworzenia rozwijają się, stają się niezwykle zaawansowane technologicznie, wykorzystują te technologie do uzyskania superinteligencji (lub superinteligentnej sztucznej inteligencji), a wtedy mają dużo zasobów i czasu. Wydają go, w tym tworząc te symulacje inteligentnych ludzi - być może takich jak my.
Być może pozwalają, aby symulacja nadal funkcjonowała po utworzeniu przez tych ludzi symulacji, która następnie staje się symulacją drugiego poziomu. Ale wszystko to będzie istnieć na komputerze stworzonym przez cywilizację istniejącą na podstawowym poziomie rzeczywistości fizycznej, a jednocześnie w symulacji może istnieć cała hierarchia symulacji. Ale tutaj będzie to wszystko ograniczone, ponieważ ostatecznie imitacja jest wykonywana na komputerze, który istnieje na podstawowym poziomie rzeczywistości fizycznej. Istnieją ograniczenia co do dostępnej energii potrzebnej do utrzymania tych mocy, a zatem ograniczenie liczby symulacji zagnieżdżonych. Oczywiście możesz przyjąć jakieś ezoteryczne podejście, spróbować znaleźć luki w niekończącym się zagnieżdżaniu, ale nie sądzę, aby warto było to robić.
A co, jeśli symulują światy, w których prawa fizyki są zupełnie inne niż nasze?
Jest to również możliwe, mogą tworzyć fantastyczne symulacje.
No cóż, skoro żyjemy w symulacji, to po co planować, przewidywać globalne zagrożenia… Pytanie egzystencjalne - jaki jest sens życia w symulacji, kiedy jej twórcy mogą po prostu wyłączyć komputer i wszystko się skończy?
Ogólnie mówiąc, „dowód symulacji” nie oznacza, że żyjemy w symulacji, ale raczej dotyczy ograniczeń tego, w co możemy wierzyć. Zakłada, że jedno z trzech stwierdzeń jest prawdziwe. Po pierwsze, żyjemy w symulacji, ale są dwie możliwości. Po drugie, wszystkie cywilizacje wymierają, zanim osiągną dojrzałość technologiczną, a po trzecie, wszystkie dojrzałe cywilizacje tracą zainteresowanie tworzeniem takich symulacji, po prostu decydują się ich nie robić.
Ale w ramach naszej argumentacji, jeśli naprawdę żyjemy w symulacji, nie rozumiem, dlaczego sens życia codziennego zależy od tego, że podstawą naszej rzeczywistości jest imitacja stworzona przez jakąś zaawansowaną cywilizację, a nie podstawowe prawa fizyki. W każdym razie to, co stanie się z tobą dalej, co stanie się z twoimi krewnymi, przyjaciółmi i innymi ludźmi, zależy od twoich działań. Więc to, co robisz w symulacji, ma znaczenie, nawet jeśli poza nią nie.
Ponadto istnieje możliwość, że to, co dzieje się wewnątrz symulacji, wpływa na to, co jest poza nią. Być może twórcy opracowali go do celów naukowych, do badania tego, co robią ludzie, a to wpływa na to, co robią, bo ważne jest, aby rozumieli ludzką naturę na podstawie dokonywanych przez nas wyborów. Może więc istnieć dodatkowy zestaw konsekwencji poza oczywistymi.
Rozmawiał Michaił Karpow
