Autor jest zaniepokojony rosnącą rolą robotów w działaniach wojennych. Od 1991 roku, od wojny w Zatoce Perskiej, pomagają generałom. A teraz powstał „zabójczy robot” - maszyna, która samodzielnie podejmuje decyzję o zniszczeniu wrogów, jeśli jest to zgodne z ogólną polityką „centrum kontroli”.
Deweloper sztucznej inteligencji DeepMind zapowiedział nowość - bot o nazwie AlphaStar, który zagrają w popularną strategię online Starcraft-2 na poziomie arcymistrzowskim.
To nie pierwszy raz, kiedy bot pokonał ludzi w strategicznej grze wojennej. W 1981 roku program o nazwie Eurisko, opracowany przez jednego z pionierów sztucznej inteligencji, Douga Lenata, wygrał US Traveller Championship, bardzo złożoną strategiczną grę wojenną, w której gracz musi skompletować swoją flotę i walczyć z flotą wroga. Eurisko ostatecznie otrzymało tytuł Honorowego Admirała Podróżnika. W 1982 roku zmieniono regulamin turnieju, próbując udaremnić działanie komputera. Ale Eurisko wygrywało wszystkich przez dwa lata z rzędu. Po tym, jak sponsorzy obiecali anulować turniej, jeśli komputer wygra ponownie, Lenat wycofał się.
DeepMind PR chciałby, abyś uwierzył, że StarCraft „wyłonił się w drodze konsensusu jako kolejne duże wyzwanie (w grach na komputery PC)” i „był wyzwaniem dla twórców sztucznej inteligencji od ponad 15 lat”.
W ostatnich Mistrzostwach Starcraft tylko 4 wnioski zostały złożone z akademickich lub przemysłowych laboratoriów badawczych. Pozostałe dziewięć botów zostało napisanych samodzielnie przez pojedyncze osoby, a nie w ramach głównego nurtu badań nad sztuczną inteligencją (AI).
W rzeczywistości liczba autorów (42) artykułu DeepMind, opublikowanego 31 października w Nature, znacznie przewyższa liczbę osób pracujących nad botami Starcraft w pozostałej części świata. Nie chcę przysłaniać sukcesu tej współpracy inżynieryjnej, ale jeśli zainwestujesz wystarczające środki w rozwiązanie problemu, sukces jest gwarantowany.
W przeciwieństwie do ostatnich zwycięstw w komputerowych szachach, AlphaStar nie była trenowana przez grę przeciwko sobie. Nauczył się tego, naśladując najlepsze odcinki z prawie miliona gier granych przez najlepszych ludzi. Wcześniej AlphaStar poniósł niezaprzeczalną porażkę w 19 z 20 walk, grając z prawdziwymi ludźmi na serwerze gry StarCraft. AlphaStar grała anonimowo, aby uniemożliwić ludziom wykorzystywanie słabości, które mogły zostać znalezione w poprzednich grach.
W grudniu AlphaStar pokonał jednego z najlepszych zawodowych graczy świata - Grzegorza MaNę Komincza. Ale była to wersja AlphaStar z odruchami znacznie szybszymi od ludzkich, a także z nieograniczoną wizją pola gry (w przeciwieństwie do ludzkich graczy, którzy widzą tylko jedną jego część na raz). Trudno to nazwać równymi szansami.
Film promocyjny:
Jednak StarCraft ma pewne cechy, które sprawiają, że AlphaStar jest imponującym osiągnięciem, jeśli nie prawdziwym przełomem. W przeciwieństwie do szachów czy wschodniej gry w go (gra strategiczna wykorzystująca planszę o 361 polach - red.), Gracze StarCrafta mają niedoskonałe zrozumienie stanu rzeczy w grze, ale liczba możliwych w niej działań jest znacznie większa. Walka w StarCraft toczy się w czasie rzeczywistym, ale wymaga długoterminowego planowania.
Wojny robotów
Powstaje pytanie - czy zobaczymy w przyszłości, jak roboty nie tylko uczestniczą w wojnach, ale także je planują? W rzeczywistości jedno i drugie już się dzieje.
Pomimo wielu ostrzeżeń ze strony badaczy sztucznej inteligencji (takich jak ja), twórców robotyki, laureatów Nagrody Nobla i przywódców kościelnych, w pełni autonomiczna broń znana jako „zabójczy robot” już została stworzona i wkrótce będzie używana.
W 2020 roku Turcja rozmieści drony kamikadze na granicy z Syrią. Te drony będą wykorzystywać wizję komputerową do identyfikowania, śledzenia i zabijania ludzi bez interwencji człowieka.
To straszny rozwój wydarzeń. Komputery nie mają moralnej zdolności do podejmowania moralnie wyważonej decyzji o tym, kto będzie żył, a kto umrze. Brakuje im empatii ani współczucia. Zabójcze roboty zmienią charakter konfliktu na gorsze.
A co z „robotycznymi generałami”? Komputery pomagały generałom planować wojnę od dziesięcioleci. Na początku lat 90., podczas operacji Pustynna burza podczas wojny w Zatoce Perskiej, narzędzia sztucznej inteligencji (AI) były używane do planowania rozbudowy na Bliskim Wschodzie przed konfliktem. Amerykański generał powiedział mi wkrótce potem, że kwota zaoszczędzonych pieniędzy jest równa sumie wszystkiego, co wcześniej wydano na rozwój sztucznej inteligencji.
Generałowie używają również komputerów do opracowywania wielowymiarowych strategii wojskowych, które mogą nagle okazać się potrzebne. Nie pozostawiamy jednak wszystkich decyzji na polu bitwy w rękach jednego żołnierza, dlatego przeniesienie całej odpowiedzialności z mózgu generała na procesor komputera to posunięcie za daleko.
Maszyna nie może być pociągnięta do odpowiedzialności za swoje decyzje. Odpowiedzialni są tylko ludzie. I to jest kamień węgielny międzynarodowego prawa humanitarnego. Jednak generałowie w coraz większym stopniu będą polegać na wsparciu komputerowym przy podejmowaniu decyzji o przełamaniu mgły wojny i uporaniu się z ogromną ilością informacji napływających z frontu.
Jeżeli skutkuje to mniejszą liczbą ofiar wśród ludności cywilnej, mniejszym ostrzałem i większym poszanowaniem międzynarodowego prawa humanitarnego, powinniśmy z zadowoleniem przyjąć taką pomoc komputerową. Ale ostateczną decyzję musi podjąć człowiek, a nie maszyna.
Oto ostatnie pytanie do rozważenia. Jeśli firmy technologiczne, takie jak Google, naprawdę nie chcą, abyśmy bali się powstania maszyn, dlaczego budują boty, aby wygrywać wirtualne wojny, zamiast skupiać się na czymś bardziej pokojowym, jak pokojowe gry elektroniczne? Z całym szacunkiem dla kibiców musimy przyznać, że stawki na gry niewojenne wypadają znacznie niżej.
Toby Walsh jest profesorem sztucznej inteligencji na Uniwersytecie Nowej Południowej Walii i społeczności badawczej Data61.