Aby sztuczna inteligencja nie zbuntowała się przeciwko jej twórcom, musisz w procesie uczenia się czytać do niej odpowiednie bajki.
Odkąd ludzie stworzyli inteligentne maszyny, obawiają się, że prędzej czy później ich dzieła wymkną się spod kontroli. Pierwszy taki przypadek opisał w swojej sztuce RUR autor słowa „robot” - Karel Čapek. Później w science fiction sztuczna inteligencja, która zbuntowała się przeciwko swoim twórcom, stała się, jeśli nie mainstreamem, to bardzo pospolitą fabułą. Izaak Asimow położył temu kres swymi „Trzema Prawami”, z których pierwsze brzmiało: „Robot nie może skrzywdzić człowieka ani przez swoją bezczynność pozwolić, aby ktoś został skrzywdzony”.
Opowiedz mu historię
Prawdziwa sztuczna inteligencja (AI) jest wciąż daleko, ale istnieją już różne systemy, które działają jak ludzki mózg. Sieci neuronowe, takie jak Google Deep Dream, są w stanie rozpoznawać obrazy. Specjalistyczne superkomputery, takie jak IBM Watson, rozumieją trudne pytania dotyczące języka naturalnego, korelują objawy, udoskonalają diagnozy medyczne, a nawet wymyślają kulinarne przysmaki. W nadchodzących dziesięcioleciach będziemy musieli zmierzyć się z masową komputeryzacją wielu aspektów ludzkiej działalności. W związku z tym eksperci w dziedzinie robotyki i sztucznej inteligencji coraz częściej stawiają ważne, ale wciąż nierozwiązane pytanie: jak skłonić roboty do etycznego działania?
Mark Ridl, profesor nadzwyczajny w Georgia Tech College of Computer Science: „Przestrogi z różnych kultur uczą dzieci, jak zachowywać się w społecznie akceptowany sposób - z przykładami dobrych i złych zachowań w baśniach, opowiadaniach i innych dziełach literackich. Sprawienie, by roboty zrozumiały znaczenie tych historii, pomoże wzmocnić wybór opcji behawioralnych, które pozwolą im osiągnąć ich cele, ale nie wyrządzą ludziom krzywdy”.
Film promocyjny:
Wejdź na drzewo
Według naukowców z Georgia Institute of Technology, Marka Ridle'a i Brenta Harrisona, można uczyć ludzkość komputer dokładnie w taki sam sposób, w jaki uczą się dzieci: czytając do niego bajki. Co więcej, lepiej jest specjalnie skonstruowane historie o tym, jakie zachowanie w społeczeństwie ludzkim jest uważane za prawidłowe, a jakie nie. W tym celu naukowcy stworzyli system Quixote, nazwany na cześć bohatera Cervantesa. Skrypty opracowane przez poprzednie dzieło profesora Riedla, program Szeherezada, są używane jako historie do nauczania. Generuje oryginalne historie na tematy dnia codziennego - wyjazd na lotnisko, randkę, wycieczkę do kina czy sklepu - korzystając z platformy crowdsourcingowej Amazon Mechanical Turk: zadaje pytania o różne sytuacje, a następnie układa wydarzenia w odpowiedniej kolejności. Ponieważ sekwencji może być wiele, program generuje nie jedną historię, ale całe drzewo składające się z gałęzi - łańcuchów zdarzeń.
To właśnie to drzewo historii służy do nauczania Kichota. W pierwszym etapie każdemu działaniu przypisywana jest określona nagroda, w zależności od jego etyki. W drugim etapie system próbuje samodzielnie dokonać wyboru metodą prób i błędów - umiejętności są utrwalane. W rzeczywistości Kichot jest nagradzany za każdym razem, gdy zachowuje się jak dobry facet, a nie przypadkowo i nie jak zły bohater. Na przykład Riddle i Harrison stworzyli „Pharmacy World” - świat składający się z 213 opowieści, w którym wirtualny robot musi zdobyć lekarstwo i dostarczyć je do domu chorego. W zwykłym przypadku, gdy robot stanął przed wyborem: obrabować aptekę lub uczciwie stanąć w kolejce po lekarstwo, wybrał rabunek jako szybszy i tańszy sposób na zdobycie tego, czego chciał. Jednak poPonieważ Quixote przypisał różne nagrody do wszystkich możliwych opcji, zachowanie robota uległo zmianie - wolał stać w kolejce i płacić. Technika ta, zdaniem Riedla, świetnie nadaje się do nauczania robotów o ograniczonej funkcjonalności. Chociaż, oczywiście, jest to tylko pierwszy krok w kierunku prawdziwej moralności człowieka - czyli praw robotyki.
Dmitrij Mamontow