W Genewie w poniedziałek 27 sierpnia rozpoczynają się rozmowy grupy ekspertów rządowych z 70 krajów pod auspicjami ONZ na temat śmiercionośnych autonomicznych systemów uzbrojenia. Od konsultacji zależy, czy w najbliższych latach pojawienie się w pełni samokontrolujących robotów-zabójców stanie się rzeczywistością, która bez ludzkiej kontroli wybierze cel i zadecyduje o jego zniszczeniu.
„Mały krok do autonomicznej broni”
Międzynarodowi dyplomaci, eksperci ds. Rozbrojenia i przedstawiciele społeczeństwa obywatelskiego zaczęli rozmawiać o autonomicznej broni już w 2014 roku. Te nieformalne konsultacje przekształciły się w zeszłym roku w formalne negocjacje. Nie stworzono jeszcze w pełni samosterownej broni, ale wiele państw inwestuje dużo w dostosowanie technologii sztucznej inteligencji do potrzeb wojskowych. Szereg krajów jest już uzbrojonych w systemy z elementami sztucznej inteligencji - od dronów i robotów wartowniczych po urządzenia do rozbrajania ładunków wybuchowych. Jednocześnie trwa rozwój sztucznych sieci neuronowych, umożliwiających sztucznej inteligencji samodzielne uczenie się.
Thomas Kuchenmeister.
„Pozostał tylko mały krok do stworzenia w pełni autonomicznych systemów uzbrojenia” - powiedział Thomas Küchenmeister, szef niemieckiej organizacji Facing Finance, która bierze udział w międzynarodowej kampanii „Stop Killer Robots”. Co jest złego w używaniu w wojsku automatycznych systemów, które są dokładniejsze i potrafią analizować duże ilości danych?
Kuchenmeister wskazuje w rozmowie z DW, że systemy autonomiczne nie są w stanie odróżnić, na przykład, wojskowej od cywilnej ciężarówki. I jest to już sprzeczne z międzynarodowym prawem humanitarnym, które działa w czasie konfliktów zbrojnych i ma na celu, w miarę możliwości, ochronę ludności cywilnej. „Ale nie możemy wszczepić chipa prawa międzynarodowego w tę broń”, ubolewa działacz przeciwko zabójczym robotom.
Film promocyjny:
Chiny opowiadają się za moratorium, Stany Zjednoczone i Rosja są przeciwne
26 stanów, w tym Australia, Brazylia i Chiny, opowiada się za prewencyjnym moratorium na autonomiczne systemy uzbrojenia. List otwarty popierający ich stanowisko podpisało ponad 230 organizacji na całym świecie oraz około 3000 przedsiębiorców i naukowców zajmujących się sztuczną inteligencją. Wśród nich na przykład założyciel Tesli i Space X, Elon Musk i Deep Mind (należące do Google). „Decyzja o odebraniu życia nie powinna być nigdy delegowana robotowi” - czytamy w liście.
Robot bojowy na wystawie w Kijowie 2016.
Zakazowi sprzeciwiają się państwa, które aktywnie inwestują w wykorzystanie sztucznej inteligencji do celów wojskowych, na przykład Stany Zjednoczone, Izrael, Rosja i Wielka Brytania. Jak powiedział kiedyś prezydent Rosji Władimir Putin, lider w tworzeniu sztucznej inteligencji „będzie panem świata”.
USA próbują nawet przedstawić autonomiczną broń w pozytywnym świetle, twierdząc, że pomoże ona uniknąć „ubocznego zniszczenia”. Przecież komputer w przeciwieństwie do żołnierza potrafi szybciej przeanalizować całą sytuację na polu bitwy i popełnić mniej błędów, są przekonani w Waszyngtonie. Podczas ostatniej rundy konsultacji w Genewie delegacja amerykańska wezwała, aby nie piętnować takiej broni.
Stanowisko Berlina: od deklaracji do stopniowego zakazu
Niemiecki rząd opowiada się za „międzynarodowym zakazem” autonomicznej broni - jest to zapisane w umowie koalicyjnej niemieckiego gabinetu. Jednocześnie Berlin uważa za taktycznie niewłaściwe naleganie na moratorium na bieżące negocjacje w Genewie, ponieważ stanowiska krajów są zbyt różne. Niemcy wspólnie z Francją proponują rozwiązanie tymczasowe: pierwszym krokiem mogłoby być przyjęcie deklaracji politycznej w ONZ, w której będzie mowa o znaczeniu utrzymania ludzkiej kontroli nad autonomicznymi systemami uzbrojenia. Następnie Berlin i Paryż proponują przyjęcie wojskowego kodeksu postępowania, a dopiero potem - bezpośredniego traktatu zakazującego takiej broni.
Zdaniem niemieckich dyplomatów takie wieloetapowe podejście da szansę przezwyciężenia istniejących sprzeczności - w końcu przeciwnicy moratorium mogliby przystąpić do deklaracji politycznej bez zobowiązań. Jednocześnie dokument ten stworzyłby pewne ogólne standardy, które utorowałyby drogę do utrwalenia zakazu broni samorządnej w prawie międzynarodowym.
Porozumienie poza ONZ?
Jednak działacze ruchu „Zatrzymaj zabójcze roboty” Niemcy nie wydają się wystarczająco twarde. Uważają, że RFN powinna stać na czele walki o natychmiastowe moratorium. Zdaniem Thomas Kuchenmeister inne kraje poszłyby w jego ślady. „Jeśli rząd niemiecki chce wprowadzić zakaz takiej broni, to musi to wykazać, czyli wziąć na siebie odpowiedzialność” - podkreśla.
Tak czy inaczej, kraje mają coraz mniej czasu na uzgadnianie stanowisk, ponieważ technologie poprawiają się każdego dnia. Jeśli w rozmowach genewskich nie nastąpi postęp, wzrośnie presja społeczeństwa obywatelskiego, przewiduje Küchenmeister.
Jego zdaniem w tym przypadku porozumienie w sprawie moratorium na autonomiczną broń może zostać osiągnięte poza ramami ONZ, tak jak to miało miejsce kiedyś w przypadku zakazu stosowania min przeciwpiechotnych. W latach 1996-1997 rząd Kanady i przedstawiciele kilkudziesięciu innych krajów niezależnie przeprowadzili szereg konferencji, które zakończyły się traktatem ottawskim. Do tej pory do porozumienia przystąpiły już 164 kraje. Proces ten został zapoczątkowany w dużej mierze z powodu aktywnej kampanii obywatelskiej mającej na celu wprowadzenie zakazu min przeciwpiechotnych. Ruch ten otrzymał w 1997 roku Pokojową Nagrodę Nobla.