Smartfony, roboty i komputery ułatwiają nam życie, ale może przy okazji coś tracimy? Reporter jednej z publikacji rozmawiał z amerykańskim pisarzem Nicholasem Carrem o niebezpieczeństwach, a nawet groźbach nadmiernej automatyzacji.
Powszechnie uważa się, że automatyzacja wszystkiego i każdego poprawia jakość naszego życia. Komputery pomagają nam osiągnąć najwyższą wydajność. Aplikacje sprawiają, że zadania są szybsze i łatwiejsze. Roboty podejmują żmudną i ciężką pracę. Nieustanny strumień innowacji z Doliny Krzemowej tylko utwierdza ludzi w przekonaniu, że nowe technologie poprawiają jakość życia.
Jest jednak inna opinia. Pisarz Nicholas Carr poddaje postulaty współczesnego świata cyfrowego bezstronnej analizie. Jego esej „Czy Google czyni nas głupimi?”, Opublikowany w Atlantic w 2008 roku, jest nadal kontrowersyjny, podobnie jak jego bestsellerowa książka z 2010 roku, The Shallows.
Carr jest postrzegany przez zwolenników teorii, że technologia uratuje nasz świat jako jednego z ich najpotężniejszych przeciwników. A ci, którzy obawiają się konsekwencji postępu technicznego dla ludzkości, szanują go za wyważone rozumowanie.
Teraz Carra interesuje nowe pytanie: czy powinniśmy się bać, że stopniowo nie będzie dla nas trudnych zadań na świecie? Czy dzięki nowym technologiom nasze życie stanie się zbyt wydajne?
Niedawno dziennikarz (T. C.) spotkał się z pisarzem, aby porozmawiać o swojej nowej książce The Glass Cage: Automation and Us oraz o tym, co skłoniło go do jej napisania.
1. Obalanie głównego mitu o nowych technologiach
Film promocyjny:
„Kiedyś uważaliśmy, że wydajność i komfort są domyślnie dobre. Takie podejście jest dość naiwne”.
Tom Chatfield: Jeśli dobrze rozumiem, w Szklanej klatce próbujesz obalić mit, że upraszczanie naszego życia poprzez postęp technologiczny jest z konieczności pozytywnym zjawiskiem.
Nicholas Carr: Zarówno na poziomie osobistym, jak i instytucjonalnym mamy skłonność do myślenia, że efektywność i komfort są domyślnie dobre, a ich maksymalizacja jest z pewnością wartościowym celem. Wydaje mi się, że takie podejście do technologii we wszystkich jej formach, zwłaszcza w postaci automatyzacji komputerowej, jest raczej naiwne. Dotyczy to również naszych własnych pragnień i prawdziwego życia we współczesnym świecie.
Czy komputery kiedykolwiek zastąpią ludzi?
T. Ch.: A jednak większość zwolenników postępu technologicznego wyznaje utylitarny punkt widzenia, zgodnie z którym największe błędy, które popełniamy, wynikają z zaniedbania wydajności i logiki, a tak naprawdę sami nie wiemy, co jest dla nas dobre. Dlatego z ich punktu widzenia zadaniem postępu technologicznego jest zidentyfikowanie niedostatków ludzkiego myślenia, a następnie stworzenie systemów, które te niedociągnięcia będą kompensować. Czy ta opinia jest błędna?
N. K.: Z jednej strony wiele innowacji w rozwoju technologii komputerowej i rozwoju zautomatyzowanych systemów nie ma nic wspólnego z powszechnym twierdzeniem, że ludzie są bardzo niedoskonali w porównaniu z komputerami. Tak, komputer można zaprogramować do wykonywania pewnych operacji w nieskończoność ze stałą jakością. I prawdą jest, że człowiek nie jest do tego zdolny.
Ale niektórzy idą nawet dalej i twierdzą, że ludzie są zbyt niedoskonali, że ich rola powinna być jak najbardziej ograniczona, a komputery powinny być odpowiedzialne za wszystkie podstawowe zadania. Nie chodzi tylko o próbę zrekompensowania ludzkich niedociągnięć - chodzi o całkowite usunięcie czynnika ludzkiego, w wyniku czego, jak się argumentuje, nasze życie stanie się znacznie lepsze.
TC: Wygląda na to, że to nie jest najlepszy pomysł. Czy istnieje optymalny poziom automatyzacji?
N. K.: Moim zdaniem nie chodzi o to, czy musimy zautomatyzować to czy inne złożone zadanie. Pytanie brzmi, w jaki sposób wykorzystujemy automatyzację, jak dokładnie wykorzystujemy komputery, aby uzupełniać ludzką wiedzę i umiejętności, kompensować wady ludzkiego myślenia i zachowania, a także stymulować ludzi do maksymalnego wykorzystania własnego doświadczenia na nowe wyżyny.
Nadmierne poleganie na oprogramowaniu może zmienić nas w obserwatorów monitorów komputerowych i operatorów przepływu procesów. Komputery mogą odgrywać bardzo ważną rolę, ponieważ jesteśmy tylko ludźmi - możemy paść ofiarą uprzedzeń lub przegapić ważne informacje. Ale niebezpieczeństwo polega na tym, że zbyt łatwo jest zlecić wszystkie nasze funkcje komputerom, co moim zdaniem byłoby złą decyzją.
2. Czy musisz przybliżyć rzeczywistość do scenariusza gry wideo?
„Lubimy gry komputerowe właśnie dlatego, że nie są łatwe do grania”.
TC: Z przyjemnością zauważyłem, że w swojej książce przytaczasz gry wideo jako przykład interakcji w systemie „człowiek-maszyna”, w którym chodzi o pokonywanie trudności, a nie unikanie ich. Najpopularniejsze gry to praca, która daje graczowi poczucie satysfakcji. Możemy tylko narzekać, że praca, którą wielu z nas musi wykonywać na co dzień, wymaga znacznie mniej umiejętności i sprawia nam dużo mniej przyjemności.
N. K.: Gry wideo są bardzo interesujące, ponieważ ich koncepcja jest sprzeczna z ogólnie przyjętymi zasadami tworzenia oprogramowania. Celem gier komputerowych nie jest wcale odciążanie użytkownika od niedogodności. Wręcz przeciwnie, stymulują gracza do dodatkowego wysiłku i maksymalizują wykorzystanie mózgu. Lubimy gry wideo właśnie dlatego, że stawiają przed nami coraz większe wyzwania. Ciągle znajdujemy się w trudnych sytuacjach - ale nie w sytuacjach powodujących rozpacz. Pokonywanie każdego nowego poziomu tylko doskonali nasze umiejętności.
Ten proces jest bardzo podobny do tego, jak osoba zdobywa doświadczenie życiowe w prawdziwym życiu. Jak wiemy, aby rozwijać swoje umiejętności, człowiek musi raz po raz stawić czoła poważnym przeszkodom i pokonywać je za każdym razem, wykorzystując całą swoją wiedzę i umiejętności. Stopniowo człowiek osiąga nowy poziom, po którym wzrasta trudność przeszkód.
Myślę, że ludzie kochają gry wideo z tego samego powodu, dla którego czerpią satysfakcję z zdobywania nowych doświadczeń i pokonywania przeszkód. Dużą przyjemność sprawia rozwiązanie trudnego zadania, w trakcie którego nabywa się nową wiedzę, niezbędną do pokonania nowych, jeszcze bardziej złożonych trudności.
Jedną z głównych obaw, które wyrażam w tej książce, jest to, że nasze podejście do postępu wiąże się z chęcią unikania jak największego rozwiązywania trudnych problemów. Wydaje mi się, że ten punkt widzenia jest sprzeczny z samą koncepcją satysfakcji z życia i samorealizacji.
3. Czy komputery wyeliminują potrzebę ludzi?
„Ludzie po prostu nie nadążają za komputerami podczas handlu instrumentami finansowymi”
TC: W przeciwieństwie do gier wideo, w prawdziwym świecie ciężka praca niekoniecznie jest wynagradzana. Prawdziwy świat jest niesprawiedliwy i niezrównoważony. Być może najbardziej niepokojącym trendem jest to, że interesy jednostki (psychicznie, osobiście, a nawet w kategoriach przetrwania) coraz częściej przestają pokrywać się z korporacyjnymi i rządowymi koncepcjami celowości. Boisz się, że komputery w końcu zastąpią ludzi?
N. K.: Kiedy zbierałem materiał do książki, bardzo przestraszyłem się artykułu (cytaty z którego cytuję w tekście) napisanego przez specjalistę od strategii wojskowej. Według niego, biorąc pod uwagę rosnącą skalę wykorzystania technologii komputerowych na polu bitwy, już wkrótce może zabraknąć osoby zajmującej się sprawami wojskowymi. Szybkość podejmowania decyzji wzrosła tak bardzo, że ludzie po prostu nie nadążają za komputerami. Nieuchronnie zmierzamy w kierunku w pełni zautomatyzowanej wojny: bezzałogowe statki powietrzne same decydują, kiedy wystrzelić pociski do celów, a żołnierze-roboty na ziemi sami decydują, kiedy strzelać.
Moim zdaniem taka sytuacja jest obserwowana nie tylko w sprawach wojskowych, ale także w wielu innych obszarach - na przykład w świecie finansów. Na przykład ludzie po prostu nie nadążają za komputerami podczas handlu instrumentami finansowymi.
Co nas czeka Możemy nie tylko stracić odróżniającą nas od komputerów umiejętność krytycznej oceny własnych działań - być może będziemy wdrażać takie systemy bezmyślnie, wierząc, że najważniejsza jest szybkość podejmowania decyzji. A potem, jeśli jesteśmy przekonani, że się myliliśmy, przekonamy się, że nie ma odwrotu. Bardzo często okazuje się, że niemożliwe jest zintegrowanie osoby z systemem pierwotnie zbudowanym na technologii komputerowej.
TC: Byłem również przerażony, gdy przeczytałem w twojej książce fragment o automatycznej wojnie. Odniosłem wrażenie, że procesu, który doprowadzi nas do w pełni autonomicznych systemów walki, nie da się zatrzymać. Część mojego przerażenia pochodzi ze wspomnień z kryzysu finansowego z 2008 roku, który praktycznie zmiótł biliony dolarów. Przynajmniej teraz ludzie są bardziej odpowiedzialni za swoje finanse. Ale jeśli stanie się to w sferze wojskowej, nie zostaną zniszczone dolary, ale ludzkie życie.
Poza tym wydaje mi się, że istnieje myśl, która nawiązuje do twojej poprzedniej książki „Pusta”: dzisiejsi ludzie w sensie biologicznym nie różnią się zbytnio od naszych przodków, którzy żyli setki lat temu, ale żyjemy w zupełnie nowym świecie. konsekwencje pewnych działań już dawno przekroczyły prędkość, do której jesteśmy przyzwyczajeni. To samo dotyczy nowych wynalazków - one same w postaci informacji i algorytmów, a także ich konsekwencje, rozprzestrzeniają się w zawrotnym tempie.
Przyszłość bez ludzi?
N. K.: Chodzi nie tylko o to, że nowe technologie, zwłaszcza w dziedzinie oprogramowania, można dziś bardzo szybko powielać i rozpowszechniać. Chodzi o to, że wszystkie te procesy zachodzą w konkurencyjnym środowisku. Czy mówimy o wyścigu zbrojeń czy konkurencji biznesowej, gdy tylko któryś z rywali osiągnie krótkoterminową przewagę kosztem konkretnej technologii, natychmiast zaczynają wprowadzać tę technologię wszędzie tam, gdzie to możliwe - bo nikt nie chce pozostać w niekorzystnej sytuacji.
Myślę, że w tej sytuacji zbyt łatwo jest stracić z oczu fakt, że w istocie jesteśmy zwierzętami. Ludzie przeszli ewolucyjną ścieżkę od tysiącleci, aby móc żyć i przetrwać. Rola ludzkości, a także nasze poczucie satysfakcji i samorealizacji są ściśle związane z naszym doświadczeniem życia w świecie, który wyznacza nam zwykłe tempo.
Dlatego też, gdy przeciwstawiamy się człowiekowi, ze wszystkimi jego zaletami i wadami fizycznymi, szybkiemu i dokładnemu komputerowi, pojawia się chęć oddania komputerom całego życia. Jednak zapominamy, że całkowite poddanie się komputerowi doprowadzi nas do życia, w którym będzie mało miejsca na samorealizację.
4. W jaki sposób automatyzujemy świat?
„Możesz inteligentnie wprowadzać innowacje, ale możesz to zrobić lekko”
TC: Myślę, że musimy być krytyczni wobec nowych technologii, ale martwię się, że ludzie zmienią niepotrzebne trudności i antytechnologiczną „autentyczność” w fetysz. Istnieje taka nowoczesna szkoła myślenia, która chwali ciężką pracę fizyczną i twierdzi, że wszystko, co robimy, musi być rzemieślnicze i autentyczne. Moim zdaniem takie stanowisko trąci snobizmem i nie uwzględnia ogromnej liczby pozytywnych osiągnięć, jakie przyniosła ze sobą demokratyzacja postępu technicznego.
N. K.: Całkowicie się z tobą zgadzam. W wywiadzie zapytano mnie, w jaki sposób moje ostrożne podejście do postępu pomoże np. Osobom pracującym w trudnych warunkach w zakładach mięsnych. Odpowiedziałem, że oczywiście zawsze będzie miejsce na automatyzację produkcji, w którym trzeba poprawić warunki pracy ludzi. Po prostu możesz wprowadzać innowacje mądrze lub możesz to robić bezmyślnie; możemy znaleźć sposób na uwzględnienie wartości ludzkiego doświadczenia i wagi samorealizacji lub po prostu wychwalać możliwości komputerów. Dokonanie właściwego wyboru nie jest łatwe. Jeśli postrzegamy to zadanie wyłącznie w czerni i bieli - albo na ślepo staniemy za ciężką, wyczerpującą pracą fizyczną w dowolnych sytuacjach, albo odwrotnie, dostrzegamy sens życia w sybarzyństwie - to nie pomoże sprawie.
Ludzie nieustannie tworzą i używają narzędzi. Od niepamiętnych czasów musimy podejmować decyzje związane z podziałem pracy, z podziałem nakładu pracy na człowieka i narzędzia, którymi dysponuje. I wydaje mi się, że niesamowita skuteczność komputerów w wykonywaniu szerokiego wachlarza zadań tylko komplikuje proces podejmowania takich decyzji.
5. Co nas czeka?
„Musimy dążyć do tego, aby komputery wzbogacały nasze doświadczenia życiowe i nie zmieniały nas w biernych obserwatorów ekranów monitorów”
T. Ch.: Więc dokąd zmierza ludzkość?
NK: Thomas Hughes, historyk historii naturalnej, który zmarł w zeszłym roku, zaproponował koncepcję pędu technologicznego. Uważał, że technologie osadzone w strukturach i procesach społecznych zaczynają się rozwijać samodzielnie, ciągnąc za sobą społeczeństwo. Jest całkiem możliwe, że nasza trajektoria została już wyznaczona i będziemy kontynuować naszą obecną ścieżkę, bez zadawania pytań o to, czy podążamy we właściwym kierunku. Naprawdę nie wiem, co się stanie. Jedyne, co mogę zrobić, to spróbować uzasadnić te naprawdę trudne pytania najlepiej jak potrafię.
Mam nadzieję, że my, jako jednostki i jako członkowie społeczeństwa, będziemy w stanie zachować pewien poziom zrozumienia tego, co się z nami dzieje, a także pewien poziom ciekawości, a decyzje będziemy podejmować w oparciu o nasze długoterminowe interesy, a nie zwykłe koncepcje wygody, szybkości, dokładności i wydajności.
Wydaje mi się, że musimy dążyć do tego, aby komputery wzbogacały nasze doświadczenia życiowe i otwierały przed nami nowe możliwości, a nie zamieniały nas w biernych obserwatorów ekranów monitorów. Nadal uważam, że jeśli wyciągniemy więcej z nowych technologii, będą w stanie zrobić to, co technologie i narzędzia zrobiły na przestrzeni dziejów ludzkości - stworzyć wokół nas ciekawszy świat i pomóc nam stać się lepszym. Ostatecznie wszystko zależy od nas.
Tom Chatfield