Roboty szybko się rozwijają - zbliża się czas, kiedy zapełnią ulice, biura, mieszkania, a nawet nasze ciała. Czy jesteśmy gotowi istnieć obok maszyn zachowujących się jak ludzie i już konkurujących z nami o pracę? Pojawia się wiele problemów humanitarnych.
Co możesz powierzyć robotowi, a czego lepiej odmówić? Czy potrafi podejmować decyzje, odczuwać emocje, czy ma wolną wolę i czy jest odpowiedzialny za swoje czyny? Jak zintegrować roboty ze społeczeństwem? Te pytania wydają się naiwne. Podczas. Może się jednak okazać, że odpowiedzi na nie zadecydują o losach naszej cywilizacji.
Gdy zgasły światła, zabrzmiała gorąca melodia tych, które zwykle towarzyszą modelkom na wybiegu. A my (pracownicy magazynu Schrödinger's Cat) zobaczyliśmy dwa ogromne czerwone oczy w kształcie serca. Robot podszedł do publiczności z godnością i gracją. Oczy zmieniły się w dwa niebieskie kręgi, promieniujące dobrymi intencjami i dziecięcą naiwnością, ręce wyciągnięte do ludzi. Światła zostały ponownie włączone.
- Alantim! - szef projektu Promobot i kierownik wydziału robotyki Moskiewskiego Instytutu Technologicznego (MTI) Aleksiej Yuzhakov przedstawili go publiczności. - W 2012 roku nazwaliśmy go Promobot, wtedy przylgnął do niego obraźliwy pseudonim Monument, potem nosił dźwięczne imię Bogdan, ale teraz jest Alantim - na cześć twórców nowego świata Alana Turinga i Tima Berners-Lee.
Zdjęcie: Skoltech / kot.sh
Alantim wciąż odwracał się i chodził rozmawiać z dziennikarzami, zasypując ich dowcipami i opowieściami o tym, jak roboty przejmą władzę na Ziemi i zmienią jej nazwę na Promobotia. Kolejka dziewczyn natychmiast ustawiła się w kolejce do niego, chcąc być sfotografowana z tak uroczym stworzeniem. Alantim spotkał dziewczyny, odpowiadał na pytania dotyczące sensu życia i kursu dolara oraz przypomniał sobie o wszystkich.
Tak minął pierwszy dzień roboczy nowego zastępcy kierownika Wydziału Robotyki Moskiewskiego Instytutu Technologicznego, robota Alantim.
Film promocyjny:
Samochód z charakterem
Alantim nie jest wyjątkowym stworzeniem. Ekipa z Permu, która stworzyła promoboty, sprzedała już 60 takich urządzeń, aw tym roku podpisała kontrakty na kolejne 124, praktycznie realizując roczny ogólnorosyjski plan dostaw robotyki usługowej - w 2014 roku sprzedano tylko ok. 200 krajowych robotów serwisowych.
Promobot to autonomiczny robot z charakterem, przeznaczony do pracy w zatłoczonych miejscach: promotor, przewodnik, showman. Wie, jak rozpoznać niektóre emocje rozmówcy, jest w stanie zrozumieć skierowane do niego pytanie i znaleźć odpowiedź w sieci, a jeśli nie rozumie pytania, próbuje go wyśmiać.
W międzyczasie udaliśmy się do szefa Alantim - prorektora MIT Jewgienija Plużnika
[Kot Schrödingera] Jak wpadłeś na pomysł, aby zatrudnić robota do organizacji?
[Grigorij Bubnov] Właśnie sobie uświadomiliśmy, że prędzej czy później nadejdzie moment, w którym zatrudnimy roboty. Postanowiliśmy zostać pionierami.
[KSh] Nie bez powodu mówią, że roboty przejmują naszą pracę
[GB] W rzeczywistości nie jest to żart, ale bardzo poważne zagrożenie, zwłaszcza w obszarach, w których zatrudnionych jest wiele osób. Myślę, że np. Już w tej dekadzie auta ze sterowaniem autonomicznym będą szeroko sprzedawane, a potem wielu kierowców zostanie bez pracy. Rządy nieuchronnie staną przed tym wyzwaniem - muszą zacząć myśleć o tworzeniu nowych miejsc pracy i programach przekwalifikowania.
[KSh] Jak myślisz, jak używać Alantim? Podobnie jak efektowna zabawka?
[GB] Nie tylko! Ma na przykład zadanie badawcze - gromadzenie danych o komunikacji robotów z ludźmi, badanie indywidualnych reakcji na roboty. Informacje te pomogą uczynić wygląd i zachowanie przyszłych modyfikacji Alantim bardziej ludzkim i wygodnym w komunikacji.
Zdjęcie: Skoltech / kot.sh
[KSh] Jakie informacje on zbiera?
[GB] Przede wszystkim dane o reakcjach na jego zachowanie - ma system rozpoznawania emocji. Na przykład, jak inni reagują, gdy podnosi rękę? A jeśli jego sposób robienia czegoś ich przeraża? Nasze gesty zostały wyostrzone przez ewolucję - nie wahamy się, powiedzmy, drapiemy się w tył głowy - a z robotem wciąż musimy przejść całą drogę do „naturalnego” zachowania. Nawiasem mówiąc, pamięta ludzi, fotografując ich.
Mogą jednak wystąpić problemy: zdjęcia ludzi są uważane za dane osobowe i istnieje prawo, które ogranicza ich wykorzystanie. Generalnie pojawi się tutaj wiele pytań natury prawnej - np. Czy trzeba płacić podatek dochodowy od energii elektrycznej, która została przekazana pracownikowi robota do ładowania? Myślę, że już niedługo zobaczymy, jak zaczną się zmieniać ustawodawstwo w różnych krajach - wraz z nastawieniem ludzi do robotów.
Gumowy Puszkin i inne roboty
Światowy rynek robotów już kwitnie, sprzedaż bije rekordy - dziesiątki miliardów dolarów na koniec ubiegłego roku.
0,17% - ten udział w światowym rynku robotów przemysłowych znajduje się w Rosji (według danych za 2013 rok).
Zdjęcie: Skoltech / kot.sh
Z bohaterów hollywoodzkich hitów, roboty zmienią się w prawdziwe postacie - a my zaczniemy z nimi żyć. Czy się dogadamy? Zaczynając od horroru o Golemie i Frankensteinie czy sztuki Karla Čapka, w której po raz pierwszy pojawia się słowo „robot”, wszystkie te historie kończyły się z reguły jednym - powstaniem stworzonych przez człowieka stworzeń przeciwko ich twórcom. Czy uda nam się stworzyć rzeczywistość, która przewyższy nasze fantazje?
Reklama na stronie projektu Promobot jasno wyjaśnia, dlaczego robot-robot jest lepszy od człowieka: nie potrzebuje pensji i kombinezonu, pracuje bez przerwy, nie choruje, nie protestuje, nie gubi się, nie mówi za dużo, nie potrzebuje szkolenia … Jest tyle zalet, że według różnych szacunków w nadchodzących dziesięcioleciach roboty mogą zająć od 40 do 80% miejsc pracy, czyli grozi nam bezprecedensowa fala masowego bezrobocia.
Być może w końcu zamieni się to w złoty wiek, kiedy, jak marzył Karol Marks, ludzie zaangażują się w swobodną twórczość. Ale nadal musimy żyć, aby to zobaczyć - i najlepiej bez społecznych katastrof. Jest mało prawdopodobne, aby możliwe było znaczne ograniczenie użycia robotów: nigdy wcześniej prawne zakazy nie były w stanie zatrzymać postępu. Jaki jest sens? Raczej ludzie otrzymają zakaz prowadzenia pojazdów, gdy kierowcy robotów staną się wszechobecni. Człowiek jest zbyt nieprzewidywalny. Czy na przykład piloci, którzy są w stanie skierować statek powietrzny na ziemię lub na obszary mieszkalne, nie są niebezpieczni?
Oznacza to, że musimy nauczyć się żyć z robotami
Na początek udaliśmy się do miejsca, w którym jest dużo robotów - na międzynarodową konferencję Skolkovo Robotics. Pstrokata firma robotów i ich twórców zgromadziła się w Skolkovo Hypercube. Duże i małe, latające i chodzące drony, zawodowi strażacy i elektroniczne wycieraczki, mechaniczne ramiona i nogi, tułów i głowy …
Oto gumowa główka Puszkina, osadzona na trójnogu, jak na stosie, obserwująca przechodniów i nerwowo unosząca brew - za dużo ludzi, oczy podbiegają. Twarz poety jest tak podobna do prawdziwej, że czujesz podziw.
Zdjęcie: Skoltech / kot.sh
W pobliżu znajduje się robot, który w ogóle nie przypomina człowieka. Zamiast ciała na kołach jest kij, zamiast głowy ekran obracający się we wszystkich kierunkach. To robot teleobecności Webot, stworzony w Skolkovo, aby pomóc dzieciom niepełnosprawnym. Możesz połączyć się z nim przez Internet, poruszać się z nim po budynku, zobaczyć i usłyszeć, co się dzieje wokół i wchodzić w interakcje z innymi.
Takie roboty są już używane w kilku szkołach - dzieci łączą się z nimi z domu i przy ich pomocy uczęszczają na lekcje, wykonują zadania, odpowiadają na pytania nauczyciela, podjeżdżają do tablicy i komunikują się z rówieśnikami.
Głównymi odbiorcami robotów usługowych w Rosji i na całym świecie są osoby niepełnosprawne. Robotyka daje im nadzieję na powrót do pełni życia - jak pierwszy rosyjski egzoszkielet ExoAtlet. Jego pilot Jarosław, niedawno zmuszony do prowadzenia życia sparaliżowanej osoby, chodzi wśród publiczności niczym cyborg z przyszłości.
Kolejnego asystenta robota przedstawił nam japoński profesor Kazuhiko Terashima:
- Japońskie społeczeństwo szybko się starzeje, brakuje personelu w klinikach. A opracowany przez nas robot Terapio okazał się doskonałym asystentem lekarza. Podąża za lekarzem, nosi przy sobie instrumenty, ale co najważniejsze, pamięta dane, przez co dokumentacja medyczna staje się zbędna. Ponadto samodzielnie wykonuje obchody pacjentów iw takim przypadku podnosi alarm.
Ma dziecinny wyraz twarzy i łagodny głos, umie się śmiać i płakać, jego wielkie oczy cały czas mrugają - by zadowolić pacjentów, wywołać u nich reakcję podobną do tej, jaką wywołują dzieci czy kocięta. Nasz robot jest ważnym krokiem w projekcie szpitala robotycznego, który stale monitoruje pacjentów. Nawiasem mówiąc, wiesz, teraz operacje są wykonywane z pomocą chirurgów robotów.
Zdjęcie: Skoltech / kot.sh
Możesz rozpoznać androida chodząc
W sali konferencyjnej Hypercube wystąpią robotyka i projektanci. Michaił Lebiediew z Duke University wyjaśnia, w jaki sposób wszczepia chipy do mózgów małp, które pozwalają im kontrolować roboty za pomocą umysłów. Sesję moderuje Dmitrij Teteryukov, profesor Instytutu Nauki i Technologii w Skołkowie, szef laboratorium robotów kosmicznych, który od wielu lat pracuje w Japonii.
Oczywiście zasypywaliśmy go pytaniami.
[Kot Schrödingera] Statystycznie liczba robotów gwałtownie rośnie, ale gdzie one się chowają - poza tymi używanymi w przemyśle?
[Dmitry Teteryukov] Oprócz robotów przemysłowych rośnie armia robotów usługowych - każdy słyszał o robotycznych odkurzaczach lub robotycznych quadkopterach, które dostarczają zakupy. Wiele z tych maszyn jest używanych w medycynie, aw armii amerykańskiej od dawna są w stanie wojny: na przykład roboty gąsienicowe z manipulatorem zajmują się rozminowywaniem. Ogólnie były bardzo przydatne w sytuacjach awaryjnych, zostały użyte podczas wypadku w Fukushimie.
[KSh] Jakie roboty produkujecie w Rosji?
[JT] Kontynuuję to, co robiłem w Japonii. Jednym z projektów jest sterowanie grupą robotów, gdy działają one według wspólnego planu, jako jedno stado, wymieniają się informacjami i uwzględniają swoje działania. Oczywiście przetestujemy to wszystko tutaj na Ziemi, ale planujemy, że będą działać w kosmosie.
[KSh] Pisarze science fiction zawsze opisywali roboty jako samotne istoty …
[JT] Rozdzielanie pracy między wielu jest znacznie bardziej wydajne niż przypisywanie wszystkiego do jednego. Na przykład jeden autonomiczny samochód musi przetwarzać wszystkie informacje o samej drodze, ale jeśli takie urządzenia są wszędzie, znacznie wygodniej jest im działać w oparciu o ogólny obraz i program.
[KSh] Kiedy roboty stają się podobne do ludzi, zarówno z wyglądu, jak i umysłu, zaczyna się to trochę przerażać, prawda?
[JT] Jest japoński profesor Hiroshi Ishiguro, który tworzy androidy prawie nie do odróżnienia od nas - ostatnio pomyliłem jednego z jego geminoidów z człowiekiem. Ale to tylko wtedy, gdy on siedzi. Nie pojawił się jeszcze taki robot, który potrafi chodzić jak człowiek - łatwo go rozpoznać po chodzie. Ishiguro stworzył zarówno własne, jak i córki.
Jednak na jej widok córka przestraszyła się, zapłakała i uciekła. Oznacza to, że gdy robot staje się bardzo podobny do osoby, następuje jego odrzucenie. Po przekroczeniu tego progu nienaturalny wygląd i ruchy zostają wyeliminowane, robot zaczyna być postrzegany jako prawdziwa osoba. Ale żeby go zaliczyć, trzeba osiągnąć nie tylko podobieństwo fizyczne, ale także intelektualne - umiejętność prowadzenia rozsądnej rozmowy.
[KSh] Czy słynne kryterium Turinga, według którego robota należy uznać za rozsądnego, którego nie możemy odróżnić od człowieka w rozmowie? Czy też trzeba to jakoś przeformułować?
[JT] Teraz to kryterium jest rozumiane jako test dla programów symulujących rozmowy między ludźmi. Ale to nie tylko intelekt - aby antropomorficznego robota można było pomylić z człowiekiem, musi być emocjonalny, płynnie się poruszać i zachowywać jak człowiek. Są już programy, które bardzo przekonująco demonstrują sarkazm i ironię. Myślę, że wkrótce pojawią się osobne testy dla różnych zdolności: emocjonalny test Turinga sprawdzi adekwatność emocji, a na przykład test motoryczny - zdolność poruszania się jak człowiek.
Zdjęcie: Skoltech / kot.sh
[KS] Czy nie boisz się, z grubsza mówiąc, powstania robotów?
[DT] Przecież ludzie piszą programy dla robotów, co oznacza, że określają, co roboty mogą, a co nie, jakie będą miały pragnienia, a czego nie. I dlaczego roboty miałyby działać przeciwko swoim twórcom, z jakiego powodu?
[KSh] Na przykład z powodu naszego niezrozumienia, że one również potrzebują praw lub dlatego, że są one rozbierane i usuwane po upływie ich daty ważności. A programy dla robotów będą pisane nie tylko przez ludzi - prędzej czy później maszyny staną się samouczące
[JT] Zostaną przeszkoleni w ustalonych przez nas ramach. Wydaje mi się, że wersja przyszłości z konfrontacją ludzi i robotów prowadzi do degradacji, bez względu na to, kto wygrywa w takiej konfrontacji. Scenariuszem produktywnym ewolucyjnie jest symbioza, a nie wojna unicestwienia, pasożytnictwa czy innego poddania się. Co więcej, ta symbioza wystąpi również w ludzkim ciele, tak że najciekawsze moim zdaniem kwestie etyczne powstaną w związku z cyborgizacją.
Gdzie będzie granica między człowiekiem a maszyną, kiedy zaczniemy instalować sobie sztuczne organy, instalować chipy w mózgu, poprawiać naszą pamięć i inne zdolności z ich pomocą? Wydaje mi się, że czeka nas przyszłość bez gadżetów i komputerów osobistych - wystarczy poprosić w myślach lub wydać polecenie, bo mózg będzie podłączony do Sieci.
Ale może cyborgi będą potrzebowały restrykcyjnych praw, podobnych do praw robotyki Asimova - nawet je jakoś sformułowałem. Ich istota polega na tym, że maszyna w cyborgu nie przejmuje władzy nad osobą, więc władza decyzyjna pozostaje w rękach osoby, a nie jej głównego procesora.
[KSh] Czy masz wymarzonego robota?
[DT] Jest to prawdopodobnie robot sterowany przez operatora z efektem teleobecności, który pozwoliłby na pełną komunikację na odległość i przekazał operatorowi wszystkie wrażenia, tworząc efekt całkowitej obecności.
[CS] Avatar?
[JT] Tak. Zajmowałem się tym tematem zanim wyszedł Avatar, ale oczywiście takie filmy w pewnym sensie determinują przyszłość - nasze rozumienie tego, do czego dążymy i co jest możliwe.
Zdjęcie: Skoltech / kot.sh
Maszyny moralne
Tymczasem w Hypercube rozpoczęła się dyskusja na temat „Portret moralny maszyny antropomorficznej”. Profesor psychologii Maxim Kiselev wygłosił wykład wprowadzający na temat moralnego charakteru robotów.
„Roboetyka zajmuje się wszystkimi problemami humanitarnymi związanymi z robotami” - wyjaśnił. - Na przykład prawny: kto jest odpowiedzialny, jeśli gdzieś jeździł samochód bez kierowcy - sam robot, właściciel samochodu czy programista? Lub społeczne, z których głównym jest potencjalne bezrobocie. Sam byłem nie raz w fabrykach robotów - na przykład w fabryce w Swindon, gdzie powstają komponenty do samochodów MINI Cooper. Zatrudnia około dwustu robotów i tyle samo osób, a wcześniej cztery tysiące miejsc pracy. Są też konkretne kwestie moralne, jak na przykład tzw. Dylemat robota pomocniczego. Skąd wiesz, kiedy pomoc maszynowa przynosi efekt przeciwny do zamierzonego? Wyobraź sobie robota, miękkiego i puszystego, podążającego za dzieckiem i zbierającego zabawki. Ale dla normalnego rozwoju dziecka konieczne jest, aby zrobił to sam.
Pełni robofobii udaliśmy się do twórcy robotyki, profesora Gianmarco Verugio, przewodniczącego komitetu naukowego Szkoły Robotyki Włoskiego Instytutu Elektroniki, Informatyki i Telekomunikacji - właśnie siedział obok.
[Kot Schrödingera] Jak powstała roboetyka?
[Gianmarco Verugio] Kiedyś byłem fanem Asimova, w wieku szesnastu lat przeczytałem wszystkie jego książki. Może dlatego wiele lat później ogarnęło mnie coś w rodzaju objawienia, z którego zrodziła się roboetyka. Zdałem sobie sprawę, że prawa robotyki Asimova - „Robot nie może skrzywdzić człowieka” i tak dalej - wcale nie są prawami, a po prostu dobrymi życzeniami, których w praktyce nie przestrzega się. Prawdziwym prawem jest e = mc2. Podobnie jak inne prawa natury, nie można go złamać.
Naruszenie prawa jest karane. A te trzy prawa robotyki są jak biblijne przykazania, które mówią „Nie zabijaj”: wszyscy wydają się być przychylni, ale ich nie przestrzegają. Obecnie systemy broni robotycznej są opracowywane w wielu krajach na całym świecie. Do zabijania potrzebna jest broń, co oznacza, że te roboty są stworzone do zabijania ludzi.
Musimy nadać moc prawną prawom robotyki. Pisanie takich praw to trudne zadanie. Powiedzmy, że robot może zabić osobę celowo, a może przypadkowo, z powodu awarii lub błędów w programie, często trudno będzie rozróżnić te sytuacje. Ale warto już teraz zacząć myśleć o tych problemach: jeśli pójdziemy w złą stronę, możemy znacznie zepsuć przyszłość ludzkości. Głupotą jest tworzenie przyszłości z zamkniętymi oczami, ale jak dotąd na ślepo rozwijamy robotykę.
Roboty wojenne to jeden z głównych problemów w roboetyce. Staramy się zwrócić na to uwagę różnych organizacji międzynarodowych. To nie tylko moja inicjatywa, istnieje międzynarodowy ruch „Stop the killer Robots!”, Który prowadzi kampanię w Internecie i jest wspierany przez ONZ.
Kolejna grupa problemów związana jest z tematyką biorobotów i sztucznych narządów. Na ile możemy np. Ingerować w pracę ludzkiego mózgu? Mój przyjaciel eksperymentuje ze szczurami - wprowadzając elektrony do ich mózgów i kontrolując ich zachowanie. To prawdziwy pilot szczurów! Ale kiedy ludzki mózg jest pełen wszelkiego rodzaju neuroimplantów, które zwiększają zdolności lub kontrolują narządy cybernetyczne, wtedy podobne przechwycenie kontroli można zrobić z ludźmi.
Zdjęcie: Skoltech / kot.sh
[KS] Ale nie możemy zrezygnować z dobrodziejstw technologii tylko dlatego, że nowe możliwości zawsze idą w parze z nowymi zagrożeniami?
[DV] Jak rozwiązać te problemy, aby technologie nie czyniły z nas kontrolowanych obiektów zarządzania, a wręcz przeciwnie, zwiększały naszą wolność? Nie mam odpowiedzi na to pytanie, po prostu chcę je postawić, zdając sobie sprawę z całej jego złożoności i niekompletności naszej wizji sytuacji.
Roboetyka rodzi wiele nieoczekiwanych pytań. Wyobraźmy sobie na przykład następującą sytuację: pielęgniarka-robot opiekuje się samotną starszą osobą, która komunikuje się z samochodem bardziej niż ktokolwiek inny. I szybko zaczyna traktować ją jak osobę, kochać ją jako osobę i cierpieć, jeśli się załamie - robimy to nawet z prymitywnymi Tamagotchi, ale tutaj będą znacznie silniejsze uczucia. Czy takiego robota można wyłączyć? Dla mnie człowiek to osoba, a maszyna to maszyna, ale obawiam się, że wkrótce ludzie zaczną popełniać błędy …
[KSh] Jak je rozróżniasz? Chatboty już przechodzą test Turinga …
[DW] Zacząłbym od tego, że nasza psychika nie jest zawarta tylko w ciele, jak w pojemniku. Psychika jest wbudowana w ciało - w miarę zdobywania doświadczenia cielesnego stajemy się inteligentni i świadomi. Koncepcja sztucznej inteligencji, ukuta przez informatyków w latach 60., zakładała, że wirtualny świat wystarczy, aby się pojawił. Teraz pomysł ten żartobliwie nazywa się GOFAI (dobra staromodna sztuczna inteligencja - dobra staromodna sztuczna inteligencja), a dla programistów stało się jasne, że aby uzyskać pozory inteligencji, program będzie potrzebował ciała robota i długiego doświadczenia w interakcji z prawdziwym światem. Ale ogólnie rzecz biorąc, nie możemy stworzyć inteligentnej maszyny, choćby dlatego, że nadal bardzo niewiele wiemy o tym, jak działa mózg, jaki jest rozum i świadomość.
[KSh] Więc robotyka nie zajmuje się prawami robotów? Ale co zrobisz, jeśli jutro Twój komputer powie: „Boję się, nie wyłączaj mnie?”
[DW] No nie, prawa robotów zaczną mnie niepokoić, kiedy ostatnia osoba na planecie będzie miała wszystkie prawa. Nadal jest zbyt wiele do zrobienia, aby ludzie zaczęli dbać o samochody. Roboetyka to ludzie, musimy to robić, ponieważ tworzymy własną przyszłość.
Opublikowano w czasopiśmie popularnonaukowym „Schrödinger's Cat” nr 5 (07) za maj 2015
