Rozdział z książki wydanej przez Muzeum Politechniczne
Człowiek i robot - gdzie przebiega granica między nimi i jakie niebezpieczeństwa niesie ze sobą nasza bliskość? Bazując na osobistych doświadczeniach, licznych wywiadach i danych z najnowszych badań, najbardziej szanowany naukowiec w tej dziedzinie, David Mindell, oferuje zakulisowe spojrzenie na najbardziej innowacyjne zastosowania robotyki. Indicaror. Ru publikuje rozdział ze swojej książki „Rise of the Machines Is Canceled! Mity o robotyzacji”.
Obsługiwany przez człowieka - zdalnie - autonomicznie
Głęboko w nocy, wysoko nad Oceanem Atlantyckim, na rozległej otwartej przestrzeni między Brazylią a Afryką, przy złej pogodzie złapano rozkładowy samolot pasażerski. Zamarznięty lód zatykał małe rurki w nosie samolotu, które określały jego prędkość i przesyłały dane do komputerów sterujących samolotem. Komputery mogłyby nadal latać bez tej informacji, ale osadzony w nich program nie zapewniał takiego wyrównania. Automatyczny system fly-by-wire poddał się i wyłączył, przekazując kontrolę ludziom - pilotom siedzącym w kokpicie liniowca: Pierre-Cedric Bonin, lat 32, i David Robert, lat 37. Bonin i Robert, zarówno zrelaksowani, jak i trochę zmęczeni, byli zaskoczeni, gdy nagle odkryli, że będą musieli ręcznie latać ogromnym samolotem na dużych wysokościach w złych warunkach pogodowych, a nawet w nocy. A w bardziej sprzyjających warunkach byłoby to trudne zadanie, przed którym piloci nie stanęli ostatnio. Dowódca załogi, 58-letni Marc Dubois, nie latał w tym momencie samolotem, tylko odpoczywał w kabinie. Piloci musieli spędzić cenny czas, aby wezwać go do kokpitu. Pomimo tego, że w momencie wyłączenia komputerów samolot znajdował się w poziomie w locie poziomym prostym, piloci mieli trudności ze zrozumieniem skąpych parametrów powietrza. Jeden z nich pociągnął do siebie manetkę, drugi pchnął ją do przodu. Samolot kontynuował lot poziomy przez około minutę, po czym zaczął opadać. Piloci musieli spędzić cenny czas, aby wezwać go do kokpitu. Pomimo tego, że w momencie wyłączenia komputerów samolot znajdował się w poziomie w locie poziomym prostym, piloci mieli trudności ze zrozumieniem skąpych parametrów powietrza. Jeden z nich pociągnął do siebie manetkę, drugi pchnął ją do przodu. Samolot kontynuował lot poziomy przez około minutę, po czym zaczął opadać. Piloci musieli spędzić cenny czas, aby wezwać go do kokpitu. Pomimo tego, że w momencie wyłączenia komputerów samolot znajdował się w poziomie w locie poziomym prostym, piloci mieli trudności ze zrozumieniem skąpych parametrów powietrza. Jeden z nich pociągnął do siebie manetkę, drugi pchnął ją do przodu. Samolot kontynuował lot poziomy przez około minutę, po czym zaczął opadać.a potem zaczął spadać.a potem zaczął spadać.
W dniu 1 czerwca 2009 r. Samolot Air France Flight 447 wpadł spiralnie do oceanu, zabijając ponad 200 pasażerów i załogę. Zniknął w falach prawie bez śladu. W ogólnoświatowym systemie międzynarodowych linii lotniczych jest nie do pomyślenia, aby samolot po prostu zniknął. Zorganizowano skoordynowane poszukiwania na dużą skalę. Zaledwie kilka dni później na dnie oceanu znaleziono ślady samolotu. Niemniej jednak, aby znaleźć większość wraku samolotu i czarnych skrzynek, dzięki którym można było ustalić przyczynę tragedii, konieczne było przeprowadzenie poszukiwań na ogromnym obszarze dna oceanu, który poruszał się beznadziejnie wolno. Ponad dwa lata później, na głębokości 3,2 km, prawie w miejscu, w którym samolot zderzył się z powierzchnią oceanu,autonomiczny pojazd podwodny o nazwie Remus 6000 sunął cicho w ciemności pod potwornym ciśnieniem słupa wody. Poruszając się trochę szybciej niż pieszy, robot w kształcie torpedy utrzymywał stałą wysokość około 60 m nad dnem. W tej pozycji jego skaner akustyczny otrzymał najczystsze obrazy. Sygnał akustyczny pokonał około 800 m we wszystkich kierunkach, robot zebrał gigabajty informacji poprzez zwrócone sygnały.robot zbierał gigabajty informacji poprzez zwracane sygnały.robot zbierał gigabajty informacji poprzez zwracane sygnały.
Powierzchnia była górzysta, więc dno oceanu gwałtownie się podnosiło. Mimo swojej sztucznej inteligencji robot sporadycznie uderza w powierzchnię, najczęściej bez żadnych konsekwencji. Trzy z tych robotów pracowały harmonijnie w tandemie: podczas gdy dwa z nich szukały pod wodą, trzeci był na pokładzie statku na powierzchni. Taki „pit stop” trwał trzy godziny, podczas których obsługujący robota przepisywali informacje, ładowali akumulatory i ustalali nowe plany poszukiwań. Na statku zespół dwunastu inżynierów z Woods Hole Institute of Oceanographic Research, kierowany przez Mike'a Purcella, który był pionierem w projektowaniu i opracowywaniu pojazdów poszukiwawczych, pracował na dwunastogodzinnych zmianach. Byli załadowani jak każdy zespół mechaników Formuły 1.
Kiedy urządzenie wynurzyło się na powierzchnię, pobranie zebranych informacji do komputera zajęło inżynierom około 45 minut, a następnie kolejne pół godziny na przetworzenie ich tak, aby można było je szybko obejrzeć na monitorze. Francuscy i niemieccy śledczy oraz przedstawiciele Air France spoglądali przez ich ramiona. Ich działania wydawały się wyrachowane i rozważne, ale napięcie wisiało w powietrzu: stawka była zbyt wysoka zarówno pod względem narodowej dumy Francuzów, jak i reputacji producenta samolotów Airbusa, a także pod względem bezpieczeństwa wszystkich podróży lotniczych.
Film promocyjny:
Kilka poprzednich wypraw zakończyło się niepowodzeniem. We Francji, Brazylii i na całym świecie rodziny ofiar czekały na wieści. Odszyfrowanie informacji ze skanera akustycznego wymaga dokładnej analizy, której nie można całkowicie zaufać komputerowi. Purcell i jego inżynierowie polegali na wieloletnim doświadczeniu. Na monitorach badali kamieniste dno kilometr po kilometrze. Ta rutynowa praca trwała pięć dni, aż do przerwania jej monotonii: na ekranie pojawiło się nagromadzenie gruzu, a następnie naukowcy dotarli do miejsca katastrofy - otrzymali silny sygnał ze sztucznych obiektów na pustyni oceanu. Tak przynajmniej przypuszczali, ale nadal nie mogli powiedzieć na pewno. Inżynierowie przeprogramowali pojazdy, tak aby wracały na obszar katastrofy i poruszały się po nim tam iz powrotem. Tym razem roboty musiały podejść na tyle blisko, aby kamery mogły wykonać zdjęcia na wysokości około 9 m nad dnem w świetle bocznych świateł. Kiedy pojazdy wynieśli obrazy na powierzchnię, inżynierowie i badacze zobaczyli miejsce katastrofy i otrzymali odpowiedź: znaleźli wrak samolotu, który stał się grobem dla setek ludzi. Wkrótce na miejsce tragedii powrócił inny zespół z innym typem robota - zdalnie sterowanym pojazdem podwodnym. Wkrótce na miejsce tragedii powrócił inny zespół z innym typem robota - zdalnie sterowanym pojazdem podwodnym. Wkrótce na miejsce tragedii powrócił inny zespół z innym typem robota - zdalnie sterowanym pojazdem podwodnym.
Było to wytrzymałe urządzenie zaprojektowane specjalnie do pracy na głębokości. Został podłączony do statku za pomocą kabla. Korzystając z map wygenerowanych z udanego wyszukiwania, ROV zlokalizował czarne skrzynki - dyktafon samolotu i rejestrator danych - i podniósł je na powierzchnię. Zapisy ostatnich minut skazanych pilotów zostały wydobyte z głębin oceanu, a teraz badacze byli w stanie odtworzyć fatalne okoliczności, które doprowadziły do zamieszania na pokładzie robota. Następnie pojazd podwodny wyruszył w smutną misję - odzyskania szczątków zmarłych.
Katastrofa Air France Flight 447 i operacja odnalezienia jego wraku łączą nowoczesną automatyzację i robotykę w dwóch ekstremalnych środowiskach: na skraju stratosfery i w głębinach morskich. Samolot wpadł do oceanu z powodu błędów w interakcji człowieka z systemami automatycznymi. Następnie jego fragmenty odkryli ludzie za pomocą zdalnie sterowanych i autonomicznych robotów.
O ile słowa „zautomatyzowany” i „autonomiczny” (w ich najbardziej powszechnym znaczeniu) sugerują, że takie systemy działają niezależnie, w obu przypadkach niepowodzenie lub sukces nie było spowodowane działaniem maszyn i ludzi, ale połączonym działaniem maszyn. i ludzie. Ludzcy piloci walczyli o życie statku powietrznego, który został zautomatyzowany dla większego bezpieczeństwa i niezawodności; wiele połączonych ze sobą statków, satelitów i swobodnie pływających boi pomogło zlokalizować miejsce katastrofy; Inżynierowie przetwarzali informacje otrzymane od robotów i działali na ich podstawie.
Zautomatyzowane i autonomiczne pojazdy nieustannie wracały do swoich twórców - ludzi - po informacje, energię i kierunek. Tragedia Air France Flight 447 dała jasno do zrozumienia, że nieustannie dostosowując i modyfikując nasze środowisko, zmieniamy się. Jak piloci mogli tak uzależnić się od komputerów, że zrzucili na morzu doskonale działający samolot? Jaka jest rola człowieka w takich dziedzinach jak transport i transport, działalność badawcza i wojskowa, kiedy wydaje się, że coraz więcej zadań o podstawowym znaczeniu wykonuje maszyny? Ekstremalny punkt widzenia jest taki, że ludzie są bliscy „wycofania się z użycia”, że roboty „potrzebują dosłownie jednej aktualizacji oprogramowania”, aby stać się w pełni autonomicznymi, jak niedawno napisał naukowiec American. Ten pogląd nam mówiże roboty się rozwijają - coraz częściej spotykamy je w znajomym środowisku. Obawy o nieznane i wątpliwe możliwości sztucznej inteligencji wynikają z przekonania, że jesteśmy u progu „superinteligencji”. Nasz świat stoi u progu zmian, w rzeczywistości już się zmienia pod wpływem robotów i automatyzacji.
Nagle pojawiają się nowe projekty, urzeczywistniające stare marzenia o inteligentnych maszynach, które pomagają nam wypełniać obowiązki zawodowe, ułatwiają pracę fizyczną i rutynowe czynności w życiu codziennym. Roboty, które istnieją i pracują w bliskiej odległości od ludzi na poziomie fizycznym, poznawczym i emocjonalnym, stają się coraz bardziej rozległym i obiecującym tematem badawczym. Autonomia - marzenie, że pewnego dnia roboty będą zachowywać się jak zupełnie niezależne byty - pozostaje źródłem inspiracji, innowacji i strachu. Podniecenie jest spowodowane powagą eksperymentu; dokładne formy tych technologii są dalekie od kompletności, a jeszcze mniej pewne są ich konsekwencje społeczne, psychologiczne i poznawcze.
Jak nasze roboty nas zmienią? Na jaki obraz i podobieństwo ich uczynimy? Co pozostanie z naszych tradycyjnych dziedzin działalności - naukowiec, prawnik, lekarz, żołnierz, menadżer, a nawet kierowca i woźny - kiedy te zadania będą wykonywać maszyny? Jak będziemy żyć i pracować? Nie musimy spekulować: w większości ta przyszłość nadeszła już dzisiaj, jeśli nie w życiu codziennym, to w ekstremalnych warunkach, w których od dziesięcioleci korzystamy z robotów i automatyki. Człowiek nie może istnieć samodzielnie w wyższych warstwach atmosfery, w głębinach oceanu, w przestrzeni kosmicznej. Ze względu na konieczność wysyłania ludzi w te niebezpieczne warunki robotyka i automatyka zostały stworzone i wdrożone w tych obszarach wcześniej niż w innych, bardziej nam znanych obszarach działalności.
W ekstremalnych warunkach relacje między ludźmi a robotami są testowane pod kątem siły. W takim środowisku pojawiają się najbardziej innowacyjne rozwiązania. Tutaj inżynierowie mają największą swobodę eksperymentowania. Pomimo fizycznej izolacji, to właśnie tutaj zaczęły się manifestować poznawcze i społeczne skutki różnych urządzeń. Biorąc pod uwagę ludzkie życie, kosztowny sprzęt i misje o znaczeniu krytycznym, autonomia musi być zawsze ograniczona względami bezpieczeństwa i niezawodności. W takich warunkach próżność i sprawy życia codziennego chwilowo schodzą na dalszy plan, a my, izolując się od otaczającej ciemności, odnajdujemy fragmentaryczne, widmowe alegorie ludzkiego życia w świecie technologii. Procesy społeczne i technologiczne w kokpicie samolotu pasażerskiego lub we wnętrzu pojazdu pełnomorskiego nie różnią się zasadniczo od podobnych procesów w fabryce, w biurze czy w samochodzie. Ale w ekstremalnych warunkach pojawiają się one wyraźniej i dlatego są łatwiejsze do zrozumienia.
Każdy lot samolotu pasażerskiego to opowieść, tak jak każda wyprawa oceanograficzna, lot kosmiczny czy operacja wojskowa. Dzięki opowieściom o konkretnych ludziach i maszynach możemy zebrać dane dotyczące subtelnej dynamiki. W ekstremalnych warunkach mamy wyobrażenie o naszej najbliższej przyszłości, kiedy takie technologie będą mogły zostać wprowadzone w takich obszarach ludzkiej działalności jak transport drogowy, służba zdrowia, edukacja itp. Urządzenia sterowane przez człowieka zdalnie lub autonomicznie otwierają jakościowo nowe możliwości interakcji między ludźmi a maszynami, nowe formy obecności i nowe doświadczenia, zwracając jednocześnie uwagę na niebezpieczeństwa, aspekty etyczne i niepożądane konsekwencje życia w pobliżu inteligentnych maszyn. Widzimy przyszłość, w której ludzka obecność i wiedza staną się ważniejsze,niż kiedykolwiek, ale w sposób niezwykły i nieznany. A te samochody są po prostu cudowne.
Nie jestem jedyną osobą, która przez całe życie podziwiała samoloty, statki kosmiczne i podwodne. Tak naprawdę bohaterowie opowieści, które opowiem poniżej, kierowali się nie tylko poszukiwaniem praktycznych korzyści - kierowała ich także pasja do nowych technologii. To nie przypadek, że takie historie były często opisywane w pracach science fiction o ludziach i maszynach. Historie ludzi i maszyn współdziałających na granicy swoich możliwości są urzekające, zaskakujące i budzące nadzieje na to, kim możemy się stać. Ten entuzjazm czasami przekłada się na naiwną wiarę w perspektywę technologii. Ale stopniowo takie zainteresowanie prowadzi nas do głównych pytań filozoficznych i humanistycznych:kim jesteśmy? Jak jesteśmy połączeni z naszą pracą i ze sobą nawzajem? W jaki sposób nasze kreacje poszerzają nasze doświadczenie? Jak możemy żyć w tym zmieniającym się świecie? Te pytania pojawiają się same, gdy zaczynasz rozmawiać z ludźmi, którzy tworzą i kontrolują roboty i maszyny. Chcę się z Wami podzielić informacjami, które otrzymałem z pierwszej ręki z pogłębionych wywiadów oraz wynikami najnowszych badań z Massachusetts Institute of Technology i innych organizacji testujących robotykę i automatykę w ekstremalnych warunkach głębin oceanicznych, podczas lotów lotniczych (cywilnych i wojskowych) iw przestrzeni. To nie jest wyimaginowana przyszłość, ale to, co dzieje się dzisiaj: zobaczymy, jak ludzie sterują robotami i otrzymują informacje za pośrednictwem autonomicznych urządzeń, przeanalizujemy, jak te interakcje wpływają na ich pracę,doświadczenie życiowe, umiejętności i zdolności.
Nasza historia zaczyna się tam, gdzie ja sam zacząłem - w głębinach oceanu. Dwadzieścia pięć lat temu, kiedy byłem inżynierem opracowującym komputery wbudowane i narzędzia dla robotów głębinowych, byłem zdumiony, gdy odkryłem, że ta technika w nieprzewidywalny sposób zmienia oceanografię, metody naukowe, a nawet samą naturę zawodu oceanografa. To zrozumienie doprowadziło mnie do dwóch równoległych karier. Jako naukowiec badałem interakcje między ludźmi a maszynami, od opancerzonych statków podczas wojny secesyjnej po komputery i oprogramowanie, które pomogło astronautom Apollo wylądować na Księżycu.
Jako inżynier zintegrowałem dane uzyskane z tych badań z nowoczesnymi projektami - opracowałem roboty i urządzenia do użytku w bliskiej interakcji z ludźmi. W niektórych opowieściach występuję jako uczestnik, w innych jako obserwator, aw innych - w obu tych postaciach jednocześnie. Przez lata gromadzenia doświadczeń, poszukiwań i rozmów z ludźmi przekonałem się, że musimy zmienić zdanie na temat robotów. Nawet język, w jakim o nich mówimy, jest raczej zaczerpnięty z science fiction XX wieku i nie ma nic wspólnego z osiągnięciami technicznymi naszych czasów. Na przykład zdalnie sterowane samoloty nazywane są dronami, jakby były bezmyślnymi automatami, podczas gdy w rzeczywistości są ściśle kontrolowane przez ludzi.
Roboty są często przedstawiane (i sprzedawane) jako całkowicie autonomiczni pośrednicy, ale nawet dzisiejsza ograniczona autonomia często istnieje tylko w ludzkiej wyobraźni. Roboty, których używamy tak szeroko i różnorodnie, nie są automatami zagrażającymi - są osadzone w sieciach społecznościowych i technicznych, tak jak my. Poniżej przyjrzymy się wielu przykładom współpracy z naszymi maszynami. Chodzi o kombinacje. Czas zastanowić się, jakie funkcje faktycznie pełnią współczesne roboty, aby lepiej zrozumieć nasz związek z tymi często niezwykle zręcznymi tworami ludzkich rąk. Przedstawiam poparty badaniami wniosek empiryczny: bez względu na to, co roboty robią w laboratorium, w rzeczywistości, gdzie stawką jest ludzkie życie i rzeczywiste zasoby,staramy się ograniczyć ich autonomię do dużej liczby wymaganych zgód i możliwości interwencji człowieka.
Nie twierdzę, że maszyny są inteligentne i nie mówię, że pewnego dnia mogą nie być wystarczająco inteligentne. Twierdzę raczej, że takie maszyny nie są odizolowane od ludzi. Wymieńmy trzy mity XX wieku związane z robotyką i automatyką. Pierwszy mit to postęp liniowy - idea, że technologia przejdzie od bezpośredniej kontroli człowieka do zdalnego sterowania, a następnie do w pełni autonomicznych robotów. Słowa filozofa Petera Singera, który nieustannie przemawia w obronie systemów autonomicznych, oddają istotę tego mitu. Pisze, że „zdolność ludzi do utrzymania kontroli nad tym, co się dzieje, jest niweczona zarówno przez osoby u steru, jak i bezpośrednio przez technologię, a zatem ludzie wkrótce zostaną wykluczeni z pętli kontroli”. Ale nie ma powodu, by przypuszczaćże ewolucja podąży tą drogą, że „sama technologia”, jak pisze Singer, doprowadzi do czegoś podobnego. W rzeczywistości istnieją dowody na to, że ludzie stopniowo wchodzą w głębszy kontakt ze swoimi maszynami.
Stale odkrywamy, że ludzie, zdalnie przez nich sterowani i autonomiczne pojazdy, rozwijają się równolegle, wpływając na siebie. Na przykład bezzałogowe statki powietrzne nie byłyby w stanie latać w krajowej przestrzeni powietrznej USA bez odpowiednich zmian w pojazdach załogowych. Albo weźmy inny przykład: nowe postępy w robotyce w konserwacji statków kosmicznych wpłynęły na astronautów z Kosmicznym Teleskopem Hubble'a. Najbardziej zaawansowane (i złożone) technologie to nie te, które działają niezależnie od ludzi, ale te, które są najbardziej zakorzenione w systemie społecznym i szybciej reagują na to, co się w nim dzieje. Drugi to mit substytucji, idea, że maszyny stopniowo zaczną przejmować wszystkie zadania wykonywane przez ludzi. Ten mit jest dwudziestowieczną wersją tego, co nazywam fenomenem Żelaznego Konia.
Początkowo wyobrażano sobie, że koleje zlikwidują zapotrzebowanie na konie, ale pociągi okazały się końmi bardzo nieistotnymi. Koleje zajęły ich miejsce, gdy ludzie przy ich pomocy nauczyli się robić zupełnie nowe rzeczy. Badacze czynników ludzkich i kognitywni twierdzą, że automaty rzadko tylko „mechanizują” ludzkie zadania. Raczej mają tendencję do utrudniania zadania, często poprzez zwiększenie obciążenia pracą (lub jej redystrybucję). Zdalnie sterowane statki powietrzne nie wykonują tych samych zadań, co załogowe statki powietrzne; przejmują nowe funkcje. Zdalnie sterowane roboty na Marsie nie odtwarzają pracy geologów w terenie;oni i osoby z nimi współpracujące uczą się prowadzenia badań terenowych w nowym środowisku z wykorzystaniem mechanizmów zdalnych.
Wreszcie mamy trzeci mit - mit całkowitej autonomii, utopijną ideę, że roboty mogą działać całkowicie niezależnie dzisiaj lub w przyszłości. Tak, oczywiście automaty mogą przejąć część zadań wykonywanych wcześniej przez człowieka i rzeczywiście są w stanie działać niezależnie przez ograniczony czas w odpowiedzi na zmiany w środowisku. Ale maszyny, które nie zależą od kierunku człowieka, są maszynami bezużytecznymi. Tylko kamień może być prawdziwie autonomiczny (ale nawet kamień został stworzony i umieszczony na swoim miejscu dzięki swojemu otoczeniu). Automatyzacja zmienia stopień zaangażowania człowieka w pracę maszyny, ale nie eliminuje jej całkowicie. W każdym systemie, nawet pozornie autonomicznym, zawsze możemy znaleźć interfejs, dzięki któremu dana osoba może sterować jego pracą,czytać informacje i dzięki temu stają się przydatne. Cytując jeden z najnowszych raportów Rady Naukowej Departamentu Obrony Stanów Zjednoczonych: „Nie ma w pełni autonomicznych systemów, tak jak nie ma w pełni autonomicznych żołnierzy, marynarzy, lotników czy marines”.
Aby myśleć w kategoriach XXI wieku i zmienić nasze poglądy na robotykę, automatyzację, a zwłaszcza nowszą ideę autonomii, musimy zrozumieć, jak ludzkie intencje, plany i założenia zmieniają istotę tworzonej przez siebie maszyny. Każdy operator, sterując swoim aparatem, współdziała z projektantami i programistami, których obecność w maszynie jest niezmienna - nawet w postaci elementów konstrukcyjnych czy linii kodu stworzonych wiele lat temu. Komputery pokładowe Air France Flight 447 mogły nadal latać samolotem z ograniczonymi danymi dotyczącymi prędkości, ale ludzie zaprogramowali je tak, aby im to uniemożliwiały. Nawet jeśli oprogramowanie podejmuje działania, których nie można przewidzieć, zachowuje się w ramach schematów i ograniczeń nałożonych przez jego twórców. Że,to, jak system został stworzony, przez kogo iw jakim celu, determinuje jego możliwości i sposoby interakcji z ludźmi, którzy go używają. Moim celem jest oderwanie się od tych mitów i zrozumienie pojęcia autonomii w kontekście XXI wieku.
Poprzez poniższe historie zamierzam przekształcić dyskurs publiczny i stworzyć mapę koncepcji dla nowej ery. Aby stworzyć taką mapę, mówiąc o urządzeniach i robotach w tej książce, będę operował koncepcjami sterowanymi przez człowieka, zdalnymi i autonomicznymi. Pierwsza jest odpowiednikiem nie zawsze odpowiedniego słowa „załoga”, dlatego w niektórych przypadkach „kontrolowany” będzie oznaczał „kontrolowany przez osobę w pojeździe”. Są to oczywiście stare i znane typy urządzeń, takie jak statki, samoloty, pociągi i samochody - maszyny, przez które podróżują ludzie. Zazwyczaj systemy sterowane przez człowieka w ogóle nie są uważane za roboty, chociaż coraz bardziej przypominają roboty z ludźmi w środku. Zdalne, skrócona forma zdalnie sterowanego pojazdu, po prostu wskazuje, gdzie operator znajduje się w stosunku do pojazdu. Nawet jeśli poznawcze zadanie sterowania systemem zdalnym prawie całkowicie pokrywa się z zadaniem wykonywanym bezpośrednio przez fizycznie obecnego operatora, obecność lub nieobecność operatora i związane z nim ryzyko mają duże znaczenie kulturowe.
Najbardziej uderzającym przykładem są odległe działania wojenne tysiące kilometrów od strefy wojny. To doświadczenie zupełnie inne niż zadania zwykłego żołnierza. Jako zjawisko poznawcze obecność człowieka przeplata się z aspektem społecznym. Automatyzacja jest również pomysłem dwudziestego wieku i nadal odzwierciedla mechanistyczny pogląd, że maszyny krok po kroku wykonują z góry określone procedury. Termin „zautomatyzowany” jest powszechnie używany do opisu komputerów na pokładzie samolotu, chociaż zawierają one nowoczesne, dość złożone algorytmy. Autonomia to obecnie modniejsze słowo i jeden z głównych priorytetów badawczych wciąż kurczącego się Departamentu Obrony USA. Niektórzy badacze wyraźnie odróżniają autonomię od automatyzacji, ale moim zdaniemróżnica między autonomią polega jedynie na szerszym stopniu niezależnego podejmowania decyzji niż zwykła informacja zwrotna; ponadto pojęcie „autonomii” obejmuje i jednoczy wiele idei zapożyczonych z teorii sztucznej inteligencji i innych dyscyplin. I oczywiście idea autonomii jednostek i grup staje się powodem nieustannych kontrowersji w polityce, filozofii, medycynie i socjologii. Nie powinno to dziwić, ponieważ technicy często zapożyczają terminy z nauk społecznych, aby opisać swoje maszyny.idea autonomii jednostek i grup staje się przyczyną ciągłych kontrowersji w polityce, filozofii, medycynie i socjologii. Nie powinno to dziwić, ponieważ technicy często zapożyczają terminy z nauk społecznych, aby opisać swoje maszyny.idea autonomii jednostek i grup staje się przyczyną ciągłych kontrowersji w polityce, filozofii, medycynie i socjologii. Nie powinno to dziwić, ponieważ technicy często zapożyczają terminy z nauk społecznych, aby opisać swoje maszyny.
Nawet w branży projektowej termin „autonomia” może mieć kilka różnych znaczeń. Autonomia w projektowaniu statków kosmicznych polega na przetwarzaniu na pokładzie danych niezbędnych do działania statku kosmicznego (niezależnie od tego, czy jest to orbitująca stacja automatyczna, czy robot mobilny), niezależnie od zadań, takich jak planowanie misji. Na Massachusetts Institute of Technology, gdzie uczę, treści kursów inżynierii autonomicznej obejmują głównie „planowanie ścieżki” - jak dostać się z jednego punktu do drugiego, spędzając odpowiednią ilość czasu i nie zderzając się z czymkolwiek. W innych systemach autonomia jest analogiczna do inteligencji, zdolności do podejmowania decyzji, które dana osoba podejmowałaby w określonych sytuacjach lub zdolności do działania w warunkachktórych nie spodziewali się ani nie przewidzieli twórcy urządzenia.
Autonomiczne okręty podwodne są tak nazywane, ponieważ działają samodzielnie i są przeciwstawne do zdalnie sterowanych pojazdów, które są połączone ze statkiem długimi kablami. Mimo to inżynierowie tworzący takie autonomiczne okręty podwodne twierdzą, że ich urządzenia są półautonomiczne, ponieważ tylko w rzadkich przypadkach działają bez kontaktu z operatorem. Termin „autonomiczny” oznacza większą swobodę działania. Opisuje sposób działania aparatu, który jest czynnikiem potencjalnie lotnym. Niedawne badania sugerują termin „rosnąca autonomia”: w ten sposób autorzy podkreślają względny charakter autonomii i stwierdzają, że „całkowita” autonomia, czyli maszyny, które nie muszą otrzymywać informacji od osoby, zawsze będą nieosiągalne.
W tej książce robocza definicja autonomii będzie brzmiała: opracowane przez człowieka sposoby przekształcania informacji ze środowiska w ukierunkowane plany i działania. Sformułowanie ma znaczenie i nadaje kontrowersji inny smak. Ale nie powinniśmy się nad nimi rozwodzić. Często polegam na języku (który czasami może być niedokładny) używanym przez ludzi, z którymi pracuję. Celem tej książki nie są definicje, ale opisy prawdziwej pracy - jak ludzie używają tych systemów w prawdziwym świecie, zdobywając nowe doświadczenia, badając, a nawet walcząc i zabijając. Co się naprawdę dzieje? Jeśli zwrócisz uwagę na żywe doświadczenie projektantów i tych, którzy używają robotów, wszystko może stać się jasne. Na przykład,słowo „dron” ukrywa nieodłącznie ludzką naturę robotów i przypisuje ich negatywne strony abstrakcyjnym ideom, takim jak „technologia” czy „autonomia”. Kiedy badamy wewnętrzne działanie operatorów Predator, dowiadujemy się, że nie prowadzą oni wojny z automatycznymi urządzeniami - ludzie wciąż wymyślają, programują i sterują maszynami.
Trwa długa debata na temat etyki i polityki zdalnych zabójstw dokonywanych przez drony ze zdalnymi operatorami lub tajemnicy takich urządzeń działających w wewnętrznej przestrzeni powietrznej USA. Ale te debaty dotyczą natury, miejsca i czasu podejmowania decyzji przez ludzi, a nie autonomicznych maszyn. W konsekwencji nie chodzi o przeciwstawianie pojazdów załogowych i bezzałogowych, a nie przeciwstawianie pojazdów sterowanych przez człowieka pojazdom autonomicznym. Główne pytania tej książki to: „Gdzie są ludzie?”, „Kim są ci ludzie?”, „Co oni robią?”, „Kiedy oni to robią?” Gdzie są ludzie? (Na statku … w powietrzu … w samochodach … czy w biurze?) Manipulacje operatora Predator są podobne do działań pilota samolotu - monitoruje stan systemów pokładowych, dostrzega informacje,podejmuje decyzje i podejmuje określone kroki. Ale jego ciało jest w innym miejscu, może kilka tysięcy kilometrów od wyników jego pracy. Ta różnica ma znaczenie. Zadania są różne. Ryzyko jest różne, podobnie jak równowaga sił.
Umysł ludzki jest zdolny do podróżowania w inne miejsca, inne kraje, inne planety. Wiedza zdobyta za pośrednictwem umysłu i zmysłów różni się od wiedzy zdobytej poprzez ciało (gdzie jesz, śpisz, komunikujesz się, oddajesz kał). W zależności od konkretnej sytuacji decydujemy, którą z dwóch ścieżek zdobywania wiedzy podążać, co ma swoje konsekwencje dla osób zaangażowanych w ten proces. Kim są Ci ludzie? (Piloci… inżynierowie… naukowcy… niewyszkoleni pracownicy… menedżerowie?) Zmień technikę, a wtedy zmieni się zarówno zadanie, jak i istota pracującego nad nim specjalisty. W rzeczywistości zmienisz cały kontyngent ludzi zdolnych do zarządzania systemem. Aby zostać pilotem, potrzeba lat nauki i szkolenia, a ten zawód jest na szczycie hierarchii personelu. Czy zdalne sterowanie samolotem wymaga tych samych umiejętności i cech? Z jakich klas społecznych można rekrutować siłę roboczą?
Wzrost automatyzacji w samolotach komercyjnych odpowiada rozwojowi demografii pilotów zarówno w krajach uprzemysłowionych, jak i na całym świecie. Czy badaczem jest ktoś, kto podróżuje w niebezpiecznych warunkach, czy ktoś, kto siedzi w domu przed komputerem? Czy musisz cieszyć się życiem na pokładzie, aby zostać oceanografem? Czy możesz odkrywać Marsa na wózku inwalidzkim? Kim są ci nowi piloci, badacze i naukowcy pracujący ze zdalnym dostępem? Co oni robią? (Latać … kontrolować … przetwarzać informacje … komunikować się?) Wysiłek fizyczny zamienia się w przetwarzanie informacji wizualnej, a następnie w zadanie poznawcze. To, co kiedyś wymagało siły, teraz wymaga uwagi, cierpliwości i szybkiej reakcji. Czy pilot trzyma ręce bezpośrednio na dźwigniach sterujących,kiedy on lata samolotem? Albo wprowadzić kluczowe polecenia do autopilota lub komputera pokładowego, aby zaprogramować tor lotu samolotu? Jaka jest rola oceny sytuacji przez daną osobę? Jaka jest rola inżyniera, który zaprogramował komputer pokładowy, lub technika lotniczego, który go konfigurował?
Kiedy oni to robią? (W czasie rzeczywistym… z pewnym opóźnieniem… z wyprzedzeniem, lata lub miesiące przed misją?) Lot zwykłego samolotu odbywa się w czasie rzeczywistym: człowiek natychmiast reaguje na zachodzące zdarzenia, a jego działania mają natychmiastowy skutek. W scenariuszu lotu kosmicznego urządzenie może znajdować się na Marsie (lub zbliżać się do odległej asteroidy), w takim przypadku urządzenie otrzyma polecenie po 20 minutach, a operatorowi zajmie 20 minut, aby zobaczyć, że coś się stało. Lub możemy powiedzieć, że statek ląduje "w trybie automatycznym", kiedy w rzeczywistości rozumiemy, że ląduje pod kontrolą programistów, którzy zostawili instrukcje na kilka miesięcy lub lat przed lądowaniem (chociaż tutaj być może będziemy musieli wprowadzić poprawki do samej koncepcji "kontrola"). Sterowanie zautomatyzowanym systemem może przypominać interakcję z duchem. Te proste pytania kierują naszą uwagę na realokację i ponowne rozmieszczenie.
Nowe formy obecności i aktywności człowieka nie są powszechne i nie są tożsame ze starymi - tożsamość kulturowa pilota, który ryzykuje życiem, lecąc nad polem bitwy, różni się od osoby, która steruje pojazdem zdalnie ze stacji naziemnej. Ale te zmiany są również nieoczekiwane - zdalny operator może czuć się bardziej obecny na polu bitwy niż pilot lecący wysoko nad nim. Informacje naukowe o Księżycu mogą być takie same lub nawet bardziej kompletne, gdy są zbierane przez zdalnie sterowany pojazd, a nie przez osobę, która wylądowała bezpośrednio na planecie. Ale kulturowe doświadczenie eksploracji Księżyca w tym przypadku jest zupełnie inne. Zastąpmy staroświeckie pojęcia bogatymi - animowanymi obrazami, pokazującymi, jak ludzie faktycznie tworzą i kontrolują roboty i systemy automatyczne w rzeczywistym świecie. Poniższe historie są zarówno naukowe, techniczne, jak i humanistyczne.
Zobaczymy, że sterowane przez człowieka, zdalne i autonomiczne maszyny umożliwiają ruch i zmianę orientacji ludzkiej obecności i działania w czasie i przestrzeni. Istota tej książki sprowadza się do tego, że ważna jest nie sama opozycja systemów kontrolowanych przez człowieka i autonomicznych, ale raczej pytania - „Gdzie są ludzie?”, „Kim są ci ludzie?”, „Co oni robią i kiedy?” Ostatnim, najtrudniejszym pytaniem będzie: „Jak zmienia się ludzka percepcja?”, „A dlaczego to ma znaczenie?”