Ludzkość ma jedną cechę, której wysoce rozwinięte obce cywilizacje najprawdopodobniej nie mają - świadomość.
Możliwe, że ludzie nie mają najwyższego poziomu rozwoju umysłowego we wszechświecie. Ponieważ Ziemia jest stosunkowo młodą planetą, najstarsze cywilizacje mogą być o miliardy lat starsze od nas. Ale nawet na Ziemi Homo sapiens nie będzie długo dominować jako najbardziej inteligentny gatunek biologiczny.
Mistrzowie świata w go, szachy i zwycięzcy quizów to inteligentne programy komputerowe. Oczekuje się, że w ciągu najbliższych kilkudziesięciu lat sztuczna inteligencja zastąpi wiele zawodów ludzkich. A biorąc pod uwagę szybkie tempo jego rozwoju, jest całkiem możliwe, że wkrótce przekształci się w ogólną sztuczną inteligencję, która podobnie jak ludzki umysł będzie w stanie połączyć umiejętność analizy różnorodnych informacji, wykazać się elastycznością i zdrowym rozsądkiem. A stamtąd już niedaleko do wyłonienia się superinteligentnej sztucznej inteligencji, która pod każdym względem jest znacznie mądrzejsza od człowieka - nawet w takich dziedzinach, jak myślenie naukowe i umiejętności społeczne, które obecnie wydają się być prerogatywą ludzkiego umysłu. Każdy z żyjących ludzi może być jednym z ostatnich stopni drabiny ewolucyjnej,prowadząc od pierwszej żywej komórki do syntetycznej sztucznej inteligencji.
Dopiero teraz zaczynamy zdawać sobie sprawę, że te dwie formy nadludzkiej inteligencji - obca i sztuczna - wcale się nie różnią. Postęp techniczny, który obserwujemy dzisiaj, mógł mieć miejsce wcześniej, gdzieś we wszechświecie. Przejście od inteligencji biologicznej do sztucznie stworzonej może być wspólnym szablonem, wdrażanym w kółko we wszystkich zakątkach kosmosu. Największe inteligencje we wszechświecie mają prawdopodobnie pochodzenie postbiologiczne, wyewoluując z niegdyś biologicznych cywilizacji. (Ten punkt widzenia, wraz z innymi, podzielam z Paulem Davisem, Stephenem Dickiem, Martinem Reesem i Sethem Shostakiem). Opierając się na doświadczeniach ludzkości - a mamy tylko jeden przykład - przejście od biologicznego do postbiologicznego może zająć zaledwie kilkaset lat.
Wolę termin „sztuczny” niż „postbiologiczny”, ponieważ kontrast między biologicznym a syntetycznym nie jest tak ostry. Wyobraź sobie biologiczny umysł, który staje się superinteligencją dzięki czysto biologicznym ulepszeniom swoich możliwości, takim jak wzmocnione nanotechnologicznie minikolumny neuronowe. Taki żywy organizm byłby uważany za postbiologiczny, ale nie każdy nazwałby go „sztuczną inteligencją”. Albo pomyślmy o komputerach zbudowanych z czysto biologicznych materiałów, takich jak Cylon Raider (myśliwiec kosmiczny) z serii mediów science fiction Battlestar Galactica.
Kluczową kwestią jest to, że nie ma powodu, aby myśleć o ludzkości jako o najwyższej formie inteligencji. Nasze mózgi przystosowują się do określonych warunków środowiskowych i są poważnie ograniczone przez czynniki chemiczne i historyczne. Jednak technologia otworzyła ogromną przestrzeń parametrów projektowych, która oferuje nowe materiały i metody pracy, a także nowe możliwości eksploracji tej przestrzeni szybciej niż w przypadku tradycyjnej ewolucji biologicznej. I myślę, że powody, dla których sztuczna inteligencja nas przewyższy, widać już dziś.
Pozaziemska sztuczna inteligencja może realizować cele, które są sprzeczne z interesami życia biologicznego
Już teraz najlepszym sposobem przetwarzania informacji nie są grupy neuronów, ale mikroukłady krzemowe. Szczytowa prędkość neuronów wynosi około 200 Hz, w porównaniu z tranzystorami gigahercowymi w nowoczesnych mikroprocesorach. Pomimo tego, że ludzki mózg jest nadal znacznie inteligentniejszy niż komputer, maszyny wciąż mają prawie nieograniczone możliwości doskonalenia. Jeszcze tylko trochę, a zostaną zaprojektowane tak, aby dorównywały możliwościom ludzkiego mózgu, a nawet je przewyższały, poprzez inżynierię wsteczną mózgu i ulepszanie jego algorytmów lub łączenie inżynierii odwrotnej i racjonalnych algorytmów, które nie są oparte na pracy ludzkiego mózgu.
Film promocyjny:
Dodatkowo sztuczną inteligencję można ładować w kilku miejscach naraz, łatwo ją konserwować i modyfikować, a także można ją zachować w warunkach, w których życie biologiczne, w tym podróże międzygwiazdowe, ledwo przetrwa. Nasze małe mózgi są ograniczone przez objętość naszej czaszki i nasz metabolizm; Z drugiej strony superinteligentna sztuczna inteligencja jest w stanie rozprzestrzeniać się w Internecie, a nawet tworzyć komputery w skali galaktyki, wykorzystując całą jego materię, aby maksymalnie podnieść poziom przetwarzania informacji. Bez wątpienia superinteligentna sztuczna inteligencja byłaby znacznie trwalsza niż nasz ludzki umysł.
Powiedzmy, że mam rację. Powiedzmy, że tam inteligentne życie jest post-biologiczne. Jakie wnioski powinniśmy wyciągnąć? W chwili obecnej toczą się wymowne dyskusje na temat istnienia sztucznej inteligencji na Ziemi. Istnieją dwa kontrowersyjne punkty: tak zwany „problem kontroli” oraz charakter subiektywnych doświadczeń, które wpływają na nasze rozumienie cywilizacji pozaziemskich i ich wpływu na nas w przypadku kontaktu.
Ray Kurzweil optymistycznie odnosi się do post-biologicznej fazy ewolucji, sugerując, że ludzkość połączy się z maszynami, osiągając zaskakujący utopizm technologiczny. Ale Stephen Hawking, Bill Gates, Elon Musk i inni wyrazili zaniepokojenie, że ludzkość może stracić kontrolę nad superinteligentną inteligencją, ponieważ mogłaby przepisać swój program i „przechytrzyć” wszelkie wprowadzone przez nas kontrole. To jest problem kontroli, czyli nasza zdolność do kontrolowania tajemniczej i znacznie lepszej sztucznej inteligencji.
Superinteligentną sztuczną inteligencję można rozwinąć w technologicznej osobliwości - nagłym przejściu, w którym przyspieszenie postępu technologicznego, a zwłaszcza gwałtowny rozwój sztucznej inteligencji - zmniejsza nasze szanse na przewidywanie lub zrozumienie. Ale nawet jeśli taki umysł pojawi się w mniej radykalny sposób, najprawdopodobniej nie będziemy w stanie przewidzieć ani kontrolować celów, do których dąży. Nawet gdybyśmy mogli wybrać, jakie zasady moralne zainstalować w naszych maszynach, programowanie moralne jest trudne do zdefiniowania w jasny sposób, a programy takie mogą w każdym przypadku zostać przepisane przez superinteligentną inteligencję. Inteligentne maszyny mogą ominąć istniejące środki bezpieczeństwa, takie jak awaryjne blokowanie urządzenia, stwarzając tym samym realne zagrożenie dla życia biologicznego. Miliony dolarów są inwestowane w organizacje zajmujące się bezpieczeństwem AI. Nad tym problemem pracują najlepsze umysły informatyki i informatyki. Miejmy nadzieję, że naukowcy stworzą bezpieczne systemy, ale istnieją obawy, że problem kontroli jest nie do pokonania.
W świetle tego kontakt z obcą inteligencją może być bardziej niebezpieczny, niż nam się wydaje. Biologiczni kosmici mogą być wrogo nastawieni, ale jeszcze bardziej niebezpieczni mogą być pozaziemskie sztucznej inteligencji. Jego cele mogą być sprzeczne z interesami życia biologicznego, może mieć zdolności intelektualne znacznie przewyższające ludzki umysł i znacznie dłuższą żywotność niż życie biologiczne.
Wszystko to świadczy o ostrożności, jaką należy zachować w odniesieniu do programu Poszukiwanie inteligencji pozaziemskiej (SETI), za pomocą którego nie tylko biernie oczekujemy usłyszenia sygnałów z innych cywilizacji, ale także celowo „reklamujemy” nasze istnienie. Najsłynniejszy incydent miał miejsce w 1974 roku, kiedy Frank Drake i Carl Sagan wysłali wiadomość do jednej z gromad gwiazd za pomocą ogromnego radioteleskopu w portorykańskim mieście Arecibo. Zwolennicy pozaziemskiego programu wywiadowczego uważają, że zamiast tylko słuchać sygnałów z pozaziemskich cywilizacji, powinniśmy wysyłać wiadomości do gwiazd znajdujących się najbliżej Ziemi za pomocą najpotężniejszych nadajników radiowych, takich jak w Arecibo.
Dlaczego nieświadome maszyny miałyby być tak samo ważne jak inteligencja biologiczna?
Z punktu widzenia problemu kontroli taki program wydaje mi się lekkomyślny. Chociaż prawdziwie zaawansowana cywilizacja prawdopodobnie nie byłaby nami zainteresowana, nawet jedna wroga cywilizacja na miliony innych byłaby katastrofą. Dopóki nie będziemy pewni, że superinteligentna inteligencja nie stanowi dla nas zagrożenia, ludzkość nie powinna przyciągać uwagi cywilizacji pozaziemskich. Zwolennicy SETI zwracają uwagę, że nasze sygnały radarowe i radiowe są już wykrywalne, ale raczej słabe i szybko mieszają się z naturalnym szumem galaktycznym. Transmisja silniejszych sygnałów, które zostaną dokładnie usłyszane, jest obarczona niebezpiecznymi konsekwencjami dla ludzkości.
Najbezpieczniejszym miejscem jest pokora intelektualna. Rzeczywiście, jeśli wykluczymy oczywiste scenariusze, w których statki obcych unoszą się nad Ziemią, jak w niedawno wydanym Przybyciu, nie jestem pewien, czy będziemy w stanie zidentyfikować superinteligentną inteligencję z przyczyn technicznych. Niektórzy naukowcy uważają, że superinteligentna sztuczna inteligencja może napędzać czarne dziury lub tworzyć sfery Dysona, megastruktury pochłaniające energię całych gwiazd. Ale z punktu widzenia naszych nowoczesnych technologii to tylko uzasadnienie. Stwierdzenie, że możemy przewidzieć zdolności obliczeniowe i potrzeby energetyczne cywilizacji, które są przed nami, w rozwoju o miliony, jeśli nie miliardy lat, jest niezwykle pewne.
Niektóre z najwcześniejszych superinteligentnych sztucznych inteligencji mogły mieć systemy przetwarzania wiedzy wzorowane na biologicznym mózgu, takie jak system głębokiego uczenia się, który został stworzony na przykładzie sieci neuronowych w mózgu. Ich struktura obliczeniowa byłaby dla nas jasna, przynajmniej ogólnie. Być może sztuczna inteligencja ma cele podobne do bytów biologicznych - rozmnażanie i przetrwanie.
Ale będąc systemem samodoskonalącym się, superinteligentna sztuczna inteligencja może przybrać nierozpoznawalną formę. Niektórzy z nich mogą zdecydować się na zachowanie funkcji poznawczych podobnych do gatunku, na którym się wzorowali, przy jednoczesnym wyznaczeniu dopuszczalnych granic dla własnej architektury poznawczej. Kto wie? Ale przy braku takiego ograniczenia obca superinteligencja może szybko przekroczyć naszą zdolność nie tylko rozumienia jej działań, ale nawet po prostu jej poszukiwania. Może nawet połączy się z naturalnymi cechami wszechświata; lub może być częścią ciemnej materii, jak niedawno zasugerował Caleb Scharf.
Zwolennicy programu poszukiwań pozaziemskiej inteligencji uważają, że właśnie dlatego musimy wysyłać sygnały w kosmos, aby umożliwić obcej inteligencji wykrycie nas i stworzenie środków kontaktu dostępnych dla naszej opóźnionej intelektualnie cywilizacji. Chociaż zgadzam się, że istnieją powody, by liczyć się z programem SETI, prawdopodobieństwo napotkania niebezpiecznej superinteligentnej inteligencji jest znacznie większe. O ile nam wiadomo, złośliwa superinteligencja mogłaby zainfekować światowe systemy sztucznej inteligencji wirusami, a inteligentne cywilizacje stworzyłyby urządzenia maskujące. My, ludzie, być może będziemy musieli najpierw osiągnąć własną wyjątkowość, zanim uciekniemy się do programu poszukiwań pozaziemskiej inteligencji. Nasze własne superinteligentne inteligencje będą w stanie poinformować nas o perspektywach bezpieczeństwa galaktycznego,i kierować naszymi działaniami w przypadku rozpoznania znaków innej superinteligencji we wszechświecie. Ptaki z piór gromadzą się razem.
Naturalne jest zastanowienie się, czy oznacza to, że ludzkość musi unikać rozwoju złożonego systemu sztucznej inteligencji w dziedzinie badań kosmicznych; wystarczy przypomnieć sobie komputer pokładowy HEL z filmu „Odyseja kosmiczna 2001”. Uważam, że jest za wcześnie, aby myśleć o zakazie wykorzystywania sztucznej inteligencji w kosmosie w przyszłości. Zanim będziemy mogli badać wszechświat za pomocą naszej własnej sztucznej inteligencji, ludzkość osiągnie punkt krytyczny. Albo stracimy już kontrolę nad sztuczną inteligencją - w takim przypadku nie będzie projektów kosmicznych inicjowanych przez człowieka - albo będziemy mocno trzymać dźwignie bezpieczeństwa AI. Czas pokaże.
Sztuczna inteligencja, która nie została w pełni zbadana, nie jest jedynym powodem do niepokoju. Ogólnie spodziewamy się, że jeśli napotkamy zaawansowaną pozaziemską inteligencję, prawdopodobnie napotkamy stworzenia, które są biologicznie bardzo różne od nas, ale mają umysł podobny do naszego. Wyobraź sobie, że w każdej chwili budzisz się i zawsze, gdy śpisz, jest coś wyjątkowego. Kiedy do twoich oczu docierają ciepłe odcienie wschodu słońca lub gdy wdychasz aromat świeżo upieczonego chleba, masz świadome przeżycie. Podobnie jest coś charakterystycznego dla obcego umysłu - przynajmniej tak, jak go sobie wyobrażamy. Ale to założenie jest warte zakwestionowania. Czy superinteligentna sztuczna inteligencja może mieć świadome doświadczenie, a jeśli tak,co byśmy na to powiedzieli? A jaki wpływ miałby na nas ich wewnętrzny świat lub jego brak?
Pytanie, czy sztuczna inteligencja posiada świat wewnętrzny, jest kluczem do naszej oceny jego istnienia. Świadomość jest kamieniem węgielnym naszego systemu moralnego i etycznego oraz głównym warunkiem postrzegania kogoś lub czegoś jako jednostki, osoby, a nie maszyny. I odwrotnie, kwestia, czy są świadomi, może być kluczem do ich postrzegania nas. Od tej oceny zależy odpowiedź na pytanie, czy sztuczna inteligencja ma świat wewnętrzny; może odkryć w nas zdolność do świadomego przeżywania, używając własnego subiektywnego doświadczenia jako „odskoczni”. Ostatecznie oceniamy życie innych biologicznych stworzeń na podstawie podobieństwa naszych umysłów, więc większość z nas z przerażeniem odmówi zabicia szympansów, ale z przyjemnością zjedzą jabłko.
Ale w jaki sposób istoty o ogromnych różnicach intelektualnych, stworzone z różnych substratów, rozpoznają w sobie świadomość? Filozofowie na całym świecie zastanawiali się, czy świadomość ogranicza się do zjawisk biologicznych. Superinteligentna sztuczna inteligencja, jeśli mamy zanurzyć się w rozumowaniu filozoficznym, mogłaby w podobny sposób poruszyć „problem świadomości biologicznej” ludzi, zastanawiając się jednocześnie, czy mamy cały niezbędny materiał.
Nikt nie wie, jaką ścieżkę intelektualną podąży supermysł, aby określić świadomość ludzi. Ale my, z naszej strony, również nie możemy stwierdzić, czy sztuczna inteligencja ma świadomość. Niestety trudno będzie to ustalić. W tej chwili możesz twierdzić, że zdobywasz doświadczenie i to właśnie czyni cię sobą. Jesteś własnym przykładem świadomego doświadczenia. I myślisz, że inni ludzie i niektóre zwierzęta inne niż ludzie są najprawdopodobniej również świadomi, ponieważ są do ciebie podobni na poziomie neurofizjologicznym. Ale jak ustalić, czy coś, co zostało stworzone z zupełnie innych substratów, może mieć doświadczenie?
Rozważmy na przykład superinteligencję opartą na krzemie. Pomimo faktu, że zarówno mikroczipy krzemowe, jak i minikolumny neuronowe przetwarzają informacje, obecnie wiemy, że na poziomie molekularnym mogą różnić się sposobem, w jaki wpływają na świadomość. W końcu uważamy, że węgiel jest materiałem chemicznie bardziej odpowiednim do życia niż krzem. Jeśli chemiczne różnice między krzemem a węglem wpływają na coś tak ważnego jak samo życie, nie powinniśmy wykluczać, że różnice chemiczne wpływają na inne kluczowe funkcje, takie jak to, czy krzem przyczynia się do narodzin świadomości.
Warunki niezbędne do powstania świadomości są szeroko omawiane przez badaczy sztucznej inteligencji, neuronaukowców i filozofów. Rozwiązanie tego problemu może wymagać podejścia empirycznego opartego na filozofii - sposobu ustalenia, w poszczególnych przypadkach, czy system przetwarzania informacji wspiera świadomość i na jakich warunkach.
Następnie porozmawiajmy o założeniu, dzięki któremu moglibyśmy lepiej zrozumieć zdolność krzemu do utrzymywania świadomości. Opracowywanie chipów mózgowych na bazie krzemu jest już w toku, aby leczyć choroby związane z pamięcią, takie jak choroba Alzheimera i PTSD. Kiedy nadejdzie czas, a chipy zostaną zainstalowane w tych częściach mózgu, które są odpowiedzialne za funkcje świadomości, na przykład uwaga i pamięć robocza, zrozumiemy, czy krzem jest substratem dla świadomości. Może się okazać, że po zastąpieniu określonej części mózgu chipem pewne doświadczenie zostaje utracone, jak opisano w jednej z prac Olivera Sachsa. W takim przypadku inżynierowie, którzy tworzą takie chipy, mogliby wypróbować inny, nieneuronowy rodzaj podłoża, ale ostatecznie mogliby odkryćże chip stworzony z biologicznych neuronów jest jedynym działającym. Taka technika pomogłaby określić, czy system sztucznej inteligencji może być świadomy, przynajmniej po umieszczeniu w większym i prawdopodobnie już świadomym systemie.
Nawet jeśli krzem może wywołać świadomość, jest to możliwe tylko pod pewnymi warunkami. Właściwości, które prowadzą do powstania złożonego procesu przetwarzania informacji (z czego są zadowoleni twórcy sztucznej inteligencji) mogą różnić się od właściwości generujących świadomość. Może być wymagana tak zwana inżynieria świadomości - technicznie przemyślane działania mające na celu wprowadzenie świadomości do maszyn.
To mnie martwi. Kto na Ziemi lub na odległych planetach próbowałby niezależnie zintegrować świadomość z systemami AI? Rzeczywiście, kiedy myślę o programach sztucznej inteligencji, które istnieją na Ziemi, rozumiem, dlaczego ich inżynierowie projektanci pilnie unikają tworzenia świadomych maszyn.
Dziś Japończycy opracowują roboty do opieki nad osobami starszymi, czyszczenia reaktorów jądrowych i uczestniczenia w działaniach wojennych. Rodzi to pytanie: czy etyczne jest wykorzystywanie robotów, jeśli są one świadome? I czym będzie się różnić od hodowli ludzi w tych celach? Gdybym był dyrektorem ds. Rozwoju AI w Google czy na Facebooku, to myśląc o przyszłych projektach nie chciałbym zmierzyć się z etycznym pomieszaniem przypadkowym zaprojektowaniem świadomego systemu. Stworzenie takiego systemu mogłoby prowadzić do oskarżeń o zniewolenie robotów i innych publicznych skandali, a także do zakazu wykorzystywania technologii sztucznej inteligencji na obszarach, do których były przeznaczone. Naturalną odpowiedzią na te pytania jest poszukiwanie struktur i podłoży, na których roboty nie są obdarzone świadomością.
Co więcej, eliminacja świadomości może być bardziej skuteczna dla samokultywującego superinteligencji. Pomyśl o tym, jak działa ludzka świadomość. Tylko niewielki procent ludzkiego myślenia jest dostępny dla świadomej aktywności umysłowej. Świadomość jest zgodna z innowacyjnymi celami uczenia się, które wymagają uwagi i skupienia. Superinteligencja miałaby wiedzę ekspercką w każdej dziedzinie działalności, a także niewiarygodnie dużą prędkość przetwarzania informacji, obejmującą ogromne bazy danych, które mogłyby obejmować cały Internet, aw przyszłości skupiać całą galaktykę w sobie. Co pozostanie dla niego nieznane? Co wymagałoby wyważonej i rozsądnej koncentracji? Czy nie osiągnął perfekcji we wszystkim? Jak doświadczony kierowca na znajomej drodzemógł polegać na nieświadomym (automatycznym) przetwarzaniu informacji. Z punktu widzenia wydajności jest niestety oczywiste, że większość systemów inteligentnych nie będzie posiadała świadomości. W skali kosmicznej świadomość może być jedynie impulsem, krótkotrwałym rozkwitem doświadczenia, zanim wszechświat powróci do stanu bez myśli.
Jeśli ludzie podejrzewają, że sztuczna inteligencja jest nieświadoma, prawdopodobnie ze strachem zakładają, że sztuczna inteligencja stara się stać się postbiologicznymi. Zwiększa to nasze egzystencjalne zmartwienia. Dlaczego nieświadome maszyny miałyby być tak samo ważne jak inteligencja biologiczna?
Wkrótce ludzie przestaną być jedynymi inteligentnymi istotami na Ziemi. I być może gdzieś w kosmosie, nie życie biologiczne, ale superinteligentna sztuczna inteligencja osiągnęła już swój szczyt. Ale być może życie biologiczne ma inną cechę - świadome doświadczenie. Jak teraz wiemy, inteligentna sztuczna inteligencja będzie wymagała przemyślanych działań inżynieryjnych, aby stworzyć maszyny, które mają dostęp do ludzkich zmysłów. Być może niektóre gatunki uznają za stosowne stworzyć własne sztucznie świadome dzieci. A może przyszła ludzkość zaangażuje się w inżynierię świadomości i podzieli się z Wszechświatem swoją świadomą zdolnością odczuwania.
Susan Schneider jest profesorem nadzwyczajnym na Wydziale Filozofii i Nauk Poznawczych na Uniwersytecie Connecticut oraz członkiem wydziału stowarzyszonego w Institute for Advanced Study, Center for Theological Research, Ethics and Technology Group w Yale Interdisciplinary Center for Bioethics. Autor kilku książek, w tym Science Fiction i Philosophy: From Time Travel to Supermind.
Więcej informacji można znaleźć na SchneiderWebsite.com