Pomysł, że sztuczna inteligencja nieuchronnie doprowadzi nas do scenariusza, w którym maszyny buntują się przeciwko ludziom, jest dość popularny. Sztuczna superinteligencja wydaje się największym możliwym zagrożeniem, a fantastyczne historie, według których nie będziemy potrzebni w świecie opanowanym przez technologię, nigdy nie straciły popularności.
Czy to nieuniknione?
Literackie i kinowe przedstawienie inteligentnych systemów komputerowych z lat 60. pomogło ukształtować i podsumować nasze oczekiwania na przyszłość, gdy wyruszamy w podróż tworzenia inteligencji maszynowej, która przewyższa ludzką inteligencję. Sztuczna inteligencja najwyraźniej już przewyższyła ludzi w niektórych konkretnych zadaniach wymagających skomplikowanych obliczeń, ale nadal pozostaje w tyle pod względem wielu innych możliwości. Jak jednocześnie zwiększyć moc tego surowego narzędzia i zachować nad nim naszą ekonomiczną pozycję.
Ponieważ sztuczna inteligencja już odgrywa i będzie odgrywać dużą rolę w naszej przyszłości, konieczne jest zbadanie naszych możliwości współistnienia z tymi złożonymi technologiami.
Kevin Abosch, założyciel Kwikdesk, firmy zajmującej się przetwarzaniem danych i sztuczną inteligencją, podzielił się swoimi przemyśleniami na ten temat. Uważa, że sztuczna inteligencja powinna być szybka, niepozorna, niezawodna, piśmienna i etyczna. Tak, etyczne.
Ramy etyczne
Film promocyjny:
Koncepcja sztucznej sieci neuronowej, wzorowanej na biologicznej sieci neuronowej, nie jest niczym nowym. Jednostki mocy obliczeniowej, zwane neuronami, łączą się ze sobą, tworząc sieć. Każdy neuron stosuje na wejściu skomplikowany algorytm uczenia się, przed przesłaniem danych do innych neuronów, aż neuron na wyjściu zostanie aktywowany i otworzy możliwość odczytu. Systemy eksperckie polegają na ludziach, którzy „uczą” systemu, siejąc ziarno wiedzy. Silniki logiczne szukają dopasowań, dokonują wyborów, ustawiają reguły „jeśli-to-to-to” w bazie wiedzy. W tym procesie nowa wiedza jest dodawana do bazy wiedzy. Czysta sieć neuronowa uczy się w procesie zdobywania nieliniowego doświadczenia, nie ma problemu z rozsiewaniem wiedzy przez eksperta. Sieci hybrydowe sprawdziły sięktóre poprawiają zdolności uczenia się maszyn.
Przyjrzyjmy się teraz kwestiom etycznym takich systemów. Dalej od pierwszej osoby.
„Zły kod” a dobry kod
Autor używa słów, aby zanurzyć czytelnika w fikcyjnym świecie i robi to na różne sposoby, ale wielcy autorzy robią to bardzo wdzięcznie. Inżynier oprogramowania pisze linie kodu, które ułatwiają przetwarzanie i przenoszenie danych. On także może wybierać spośród wielu opcji na różne sposoby, ale wdzięczni programiści to miłośnicy informatyki. Postępujący koder koncentruje się na tym, jak zawrzeć jak najwięcej i lepiej w krótkim i zgrabnym kodzie. Redundantny kod jest ograniczony do minimum. Świetny kod utrzymuje również otwarte okno na przyszłe dodatki. Inni inżynierowie mogą dodawać kod ze swoją wrodzoną elegancją, a produkt rozwija się płynnie.
Każdy produkt wytworzony przez człowieka opiera się na zamiarze. Rzeczy stworzone przez ludzi są przesycone intencjami iw pewnym stopniu są nośnikami samej natury twórcy. Niektórym trudno jest wyobrazić sobie nieożywiony przedmiot tego rodzaju. Ale wielu by się z tym zgodziło. Energia intencji istnieje od tysięcy lat, jednoczy, dzieli, jednoczy, przekształca społeczeństwo. Nie należy też lekceważyć potęgi języka. Nie zapominaj, że wiersze kodu są napisane w określonym języku programowania. Tym samym jestem przekonany, że kod, który staje się oprogramowaniem używanym na komputerach lub urządzeniach mobilnych, jest bardzo „żywy”.
Bez rozważania mądrości i duchowości w kontekście informatyki i potencjalnych konsekwencji sztucznej inteligencji, wciąż możemy postrzegać kod statyczny jako pojedynczą jednostkę z potencjałem do „czynienia dobra” lub „czynienia zła”. Te dane wyjściowe znajdują się tylko w procesie używania aplikacji przez ludzi. To jasne wybory, jakich dokonują ludzie, wpływają na charakter aplikacji. Można je przeglądać w systemie lokalnym, określając pozytywny lub negatywny wpływ na ten system lub w oparciu o zestaw predefiniowanych standardów. Jednak tak jak dziennikarz nie może być w 100% bezstronny w procesie pisania artykułu, tak inżynier dobrowolnie lub nieświadomie dodaje do kodu charakter swoich zamiarów. Niektórzy mogą twierdzić, że pisanie kodu jest procesem logicznym, a prawdziwa logika nie pozostawia miejsca dla natury.
Ale jestem pewien, że w momencie, gdy tworzysz regułę, blok kodu lub cały kod, wszystko to jest nasycone elementem ludzkiej natury. Z każdą dodatkową zasadą penetracja gatunku pogłębia się. Im bardziej złożony kod, tym więcej w nim tego charakteru. Stąd pojawia się pytanie: „Czy charakter kodeksu może być dobry czy zły?”
Oczywiście wirus opracowany przez hakera, który złośliwie przebija się przez zabezpieczenia komputera i sieją spustoszenie w Twoim życiu, jest przesiąknięty złą naturą. Ale co z wirusem stworzonym przez dobrych ludzi w celu infiltracji komputerów organizacji terrorystycznej, aby zapobiec atakom terrorystycznym? Jaka jest jego natura? Technicznie mógłby być identyczny ze swoim nikczemnym odpowiednikiem, używany tylko do „dobrych” celów. Więc jego natura jest życzliwa? To jest cały paradoks etyczny złośliwego oprogramowania. Ale nie mogliśmy tego zignorować, myśląc o „złym” kodzie.
Moim zdaniem istnieje kod, który z natury rzeczy skłania się ku „złu” i jest kod, który jest z natury ukierunkowany na dobrą wolę. Jest to ważniejsze w kontekście komputerów offline.
W Kwikdesk opracowujemy strukturę i protokół AI w oparciu o mój projekt hybrydowy systemu ekspertowego / sieci neuronowej, który najbardziej przypomina model biologiczny. Neurony przejawiają się w postaci modułów I / O i urządzeń wirtualnych (w pewnym sensie autonomicznych agentów) połączonych „aksonami”, bezpiecznymi, oddzielnymi kanałami zaszyfrowanych danych. Dane te są odszyfrowywane, gdy wchodzą do neuronu, a po pewnych procesach są szyfrowane przed wysłaniem do następnego neuronu. Zanim neurony będą mogły komunikować się ze sobą poprzez akson, musi nastąpić wymiana klucza między uczestnikiem a kanałem.
Uważam, że bezpieczeństwo i separację należy wbudować w takie sieci od najniższego poziomu. Nadbudowy odzwierciedlają właściwości ich najmniejszych elementów, więc wszystko, co jest mniejsze niż bezpieczne bloki konstrukcyjne, spowoduje niebezpieczne działanie całej linii. Z tego powodu dane muszą być chronione lokalnie i odszyfrowane podczas przesyłania lokalnego.
Wdrożenie i gwarancje
Jakość naszego życia wraz z coraz mądrzejszymi maszynami jest zrozumiałym problemem i jestem absolutnie przekonany, że musimy podjąć działania, aby zapewnić zdrową przyszłość przyszłym pokoleniom. Zagrożenia dla inteligentnych maszyn są potencjalnie zróżnicowane, ale można je podzielić na następujące kategorie:
Rezerwacja. W miejscach pracy ludzie zostaną zastąpieni maszynami. Ta zmiana trwa od dziesięcioleci i będzie tylko przyspieszać. Potrzebna jest odpowiednia edukacja, aby przygotować ludzi na przyszłość, w której setki milionów tradycyjnych miejsc pracy po prostu przestaną istnieć. To skomplikowane.
Bezpieczeństwo. Całkowicie polegamy na maszynach i nadal będziemy polegać. Ponieważ coraz bardziej ufamy maszynom, gdy przechodzimy z bezpiecznego obszaru do potencjalnie niebezpiecznego obszaru, możemy stanąć w obliczu ryzyka błędu maszyny lub złośliwego kodu. Pomyśl na przykład o transporcie.
Zdrowie. Osobiste urządzenia diagnostyczne i sieciowe dane medyczne. Sztuczna inteligencja będzie nadal ewoluować w medycynie prewencyjnej i analizie danych genetycznych na zasadzie crowdsourcingu. Ponownie musimy mieć zapewnienie, że te maszyny nie będą angażować się w złośliwą działalność wywrotową ani w żaden sposób nam nie szkodzić.
Przeznaczenie. Sztuczna inteligencja przewiduje z coraz większą dokładnością, dokąd się udasz i co będziesz robić. W miarę rozwoju tego obszaru będzie wiedział, jakie decyzje podejmiemy, dokąd pojedziemy w przyszłym tygodniu, jakie produkty kupimy, a nawet kiedy umrzemy. Czy chcemy, aby inni mieli dostęp do tych danych?
Wiedza. Maszyny de facto gromadzą wiedzę. Ale jeśli zdobywają wiedzę szybciej niż ludzie są w stanie ją przetestować, jak możemy ufać jej integralności?
Podsumowując, chcę zauważyć, że czujne i odpowiedzialne podejście do sztucznej inteligencji w celu złagodzenia potencjalnych problemów związanych z technologiczną eksplozją supernowej jest naszą drogą. Albo oswoimy potencjał sztucznej inteligencji i będziemy modlić się, aby przyniosła ludzkości to, co najlepsze, albo wypalimy jej potencjał, który będzie odzwierciedlał to, co w nas najgorsze.
Ilya Khel