Kommiersant dowiedział się, że Rosja jest gotowa poprzeć propozycję Francji i Niemiec przyjęcia deklaracji politycznej w ONZ, która będzie mówić o znaczeniu utrzymania ludzkiej kontroli nad autonomicznymi systemami uzbrojenia. Przedstawiciele ponad 80 krajów i organizacji międzynarodowych omówią tę inicjatywę pod koniec sierpnia w Genewie. Tymczasem, jak wyjaśniło Kommiersantowi rosyjskie MSZ, Moskwa kategorycznie sprzeciwia się wprowadzaniu prawnie obowiązujących ograniczeń w tym zakresie, gdyż nie istnieje jeszcze pełnoprawna sztuczna inteligencja. Zwolennicy zakazu „zabójczych robotów” ostrzegają jednak, że technologia rozwija się tak szybko, że dyplomaci mogą po prostu nie być w stanie zapobiec katastrofie. Kommiersant zrozumiał zawiłości nowego kierunku światowej dyplomacji.
Zachowaj ludzką kontrolę
Negocjacje Grupy Ekspertów Rządowych ds. Lethal Autonomous Weapons Systems (SAS) odbędą się w Genewie w dniach 27-31 sierpnia pod auspicjami ONZ Dyplomaci zaczęli szczegółowo omawiać ten temat całkiem niedawno: pierwsze takie spotkanie odbyło się w grudniu 2017 r., A drugie w kwietniu 2018 r. Jako platformę do dyskusji wybrano format Konwencji o broni nieludzkiej. To w jego ramach narodziły się w odpowiednim czasie zakazy amunicji kasetowej, napalmu, laserów oślepiających i min przeciwpiechotnych.
Kilka stanów wystąpiło z inicjatywą zakazu SAS. Wśród nich na przykład Austria, Argentyna, Brazylia, Boliwia i Watykan. W sumie 26 krajów popiera obecnie pomysł zakazu.
Logika inicjatorów radykalnych działań jest następująca: technologie sztucznej inteligencji rozwijają się w szybkim tempie, a pojawienie się w pełni autonomicznych maszyn, zdolnych do podejmowania decyzji i działania bez ludzkiej kontroli, nie jest daleko; państwa intensywnie inwestują w adaptację tych technologii do potrzeb wojskowych, a wiele krajów ma już systemy z elementami sztucznej inteligencji (od integracji systemów obrony powietrznej po „stada” dronów zdolnych do ataku w roju, robotyczne wartownie i urządzenia do neutralizacji materiałów wybuchowych. urządzenia); Oznacza to, że za pięć do dziesięciu lat świat może stanąć przed wprowadzeniem na pole bitwy robotów-zabójców, które będą samodzielnie wybierać cele i atakować je. Stąd wymóg zakazania całkowicie autonomicznych śmiercionośnych systemów:jej inicjatorzy nalegają na przyjęcie prawnie wiążącego traktatu międzynarodowego, który wymagałby od państw zapewnienia utrzymania właściwej kontroli człowieka nad maszynami. Jak wyjaśniła Kommiersantowi koordynatorka globalnej kampanii „Stop Killer Robots” Mary Verham, „właściwa kontrola” oznacza możliwość interwencji operatora w proces wyboru celu i przeprowadzenia ataku.
Zwolennicy tego pomysłu cieszą się dużym poparciem społecznym. Opublikowaną 18 lipca przez amerykańską organizację Future of Life Institute petycję domagającą się zakazu tworzenia w pełni autonomicznych robotów bojowych podpisało blisko 2500 naukowców, inżynierów, osób publicznych i przedstawicieli branży IT. Zwolennicy radykalnych działań odnieśli już pewien sukces. Tak więc do grudnia 2017 r. Temat CAC w Genewie był dyskutowany tylko nieformalnie przez trzy lata. Jednak pod koniec ubiegłego roku 123 państwa zatwierdziły pomysł oficjalnego udzielenia grupie mandatu do dyskusji. Inicjatorzy wprowadzenia zakazu autonomicznych robotów bojowych mają nadzieję, że spotkanie zaplanowane na koniec sierpnia będzie krokiem w kierunku wyposażenia grupy w pełnoprawny format negocjacyjny - czyli otworzy drogę do opracowania konwencji zakazującej SAS.
Film promocyjny:
Systemy spekulacyjne
Jednak wiele krajów sceptycznie odnosi się do idei zakazu takich systemów. Wśród nich jest Rosja. Jej delegacja (złożona z przedstawicieli MSZ, MON oraz Ministerstwa Przemysłu i Handlu), choć przygotowuje się do wyjazdu do Genewy, nie jest gotowa do rozmowy o istotnym ograniczeniu lub całkowitym zakazie SAS, w związku z czym sprzeciwia się udzieleniu Grupie Ekspertów Rządowych mandatu negocjacyjnego. Jak wyjaśniło Kommiersantowi rosyjskie MSZ, taka „ostrożna” postawa „wynika z szeregu okoliczności”. „Przede wszystkim musimy wziąć pod uwagę, że mówimy o sprzęcie, który nie ma jeszcze naprawdę działających próbek. Idea takich systemów jest wciąż bardzo powierzchowna i spekulatywna - przypominamy w wydziale - Poważne trudności obserwuje się nawet przy opracowywaniu roboczej wersji definicji terminu SAS.
Po drugie, MSZ zwraca uwagę na „trudności z wyraźnym rozróżnieniem rozwoju cywilnego i wojskowego w dziedzinie systemów autonomicznych”. I po trzecie, ministerstwo „ma poważne wątpliwości co do niedostateczności obecnych międzynarodowych ram prawnych regulacji SAS, na co wskazują radykalne państwa i organizacje pozarządowe”. „Naszym zdaniem prawo międzynarodowe (w tym jego dział humanitarny) ma pełne zastosowanie do SAS i nie wymaga modernizacji ani adaptacji do nieistniejących jeszcze systemów uzbrojenia” - zapewnia Plac Smoleński. I dodają: „Rosja ściśle przestrzega norm międzynarodowego prawa humanitarnego odnoszącego się do tego obiecującego rodzaju broni. Rosyjskie ustawodawstwo krajowe zawiera przepisyktóre stanowią przeszkodę dla ewentualnego uruchomienia broni, która nie jest zgodna z międzynarodowymi zobowiązaniami prawnymi Rosji”.
Zwróć uwagę, że rosyjskie wojsko aktywnie dostosowuje elementy sztucznej inteligencji do własnych celów. Siły Zbrojne Federacji Rosyjskiej uzbrojone są w zrobotyzowane morskie kompleksy „Galtel”, które po otrzymaniu zadania są w stanie samodzielnie przeanalizować sytuację i wybrać sposoby jej rozwiązania. Oleg Martyanov, członek zarządu komisji wojskowo-przemysłowej Federacji Rosyjskiej, powiedział firmie Interfax, że od 2017 roku systemy te poszukują niewybuchów i chronią akwen wodny w rejonie syryjskiego portu Tartus. Doniesiono również, że system RB-109A „Bylina”, zdolny do samodzielnej analizy sytuacji bojowej i doboru metod tłumienia sygnałów wroga, wszedł do elektronicznych oddziałów bojowych Sił Zbrojnych RF. Planowane jest wyposażenie prawie wszystkich najnowszych rosyjskich systemów uzbrojenia w elementy sztucznej inteligencji - od pocisków manewrujących po czołgi i myśliwce. Prezydent Rosji Władimir Putin powiedział we wrześniu ubiegłego roku, że kraj, który osiągnął pozycję lidera w tworzeniu sztucznej inteligencji, „będzie władcą świata”.
Tymczasem Rosja na tym obszarze ustępuje stanowiskom Stanów Zjednoczonych i Chin. Ogółem, według analityków amerykańskiej firmy badawczej MarketsandMarkets, światowy rynek technologii sztucznej inteligencji do celów wojskowych w 2017 r. Wyniósł 6,26 mld USD. Eksperci uważają, że do 2025 r. Liczba ta wzrośnie do 18,82 mld USD. Wśród wiodących firm na globalnym rynku są pierwsi trzy pozycje zajmują giganci amerykańskiego kompleksu militarno-przemysłowego: Lockheed Martin, Raytheon i Northrop Grumman.
W związku z tym nie dziwi fakt, że władze USA nie są gotowe do merytorycznej dyskusji nad moratorium na tworzenie autonomicznych robotów bojowych. Inne kraje aktywnie inwestujące w innowacyjną broń trzymają to samo stanowisko: Wielka Brytania, Francja, Niemcy, Izrael, Japonia i Korea Południowa. Jedynym członkiem Rady Bezpieczeństwa ONZ, który poparł projekt konwencji zakazującej SAS, były nieoczekiwanie w kwietniu tego roku Chiny. W Pekinie robią jednak zastrzeżenie: możemy mówić tylko o zakazie stosowania w pełni autonomicznych systemów walki, ale nie o ograniczeniach ich rozwoju i tworzenia.
Tak czy inaczej, biorąc pod uwagę niechęć wiodących krajów do omawiania jakichkolwiek zakazów w tej dziedzinie, zwolennicy radykalnych środków nie mogą liczyć na szybki postęp. Kompromisem mogłaby być propozycja Francji i Niemiec, która ma zostać rozpatrzona na sesji w Genewie. Paryż i Berlin proponują oświadczenie polityczne, w którym państwa zapewniłyby, że ludzie będą odgrywać kluczową rolę w rozmieszczeniu autonomicznych systemów walki w każdym przypadku i będą mogli zachować kontrolę nad ich działaniami.
Ministerstwo Spraw Zagranicznych Rosji wyjaśniło Kommiersantowi, że Moskwa nie sprzeciwia się rozpoczęciu przygotowania deklaracji politycznej w sprawie SAS na miejscu Konwencji o broni nieludzkiej, przy założeniu, że zostanie to uzgodnione po pracach odpowiedniej Grupy Ekspertów Rządowych. Ministerstwo podkreśla, że działania delegacji rosyjskiej będą uzależnione od „konkretnej treści” tej deklaracji oraz od tego, czy dokument uwzględni stanowisko Rosji. Rosyjscy negocjatorzy, jak zapewniło Kommiersant Ministerstwo Spraw Zagranicznych Rosji, są gotowi „zaangażować się” w przygotowanie tekstu i generalnie uważają, że jego przyjęcie byłoby „pożytecznym rezultatem” działań Grupy Ekspertów Rządowych.
Według wywiadu Mary Verham zwolennicy zakazu robotów-zabójców nie będą zadowoleni z tego środka. Ale w tej chwili nie mogą liczyć na więcej.
Elena Chernenko
