Amerykańscy eksperci opracowują sieć neuronową, która może wyjaśniać decyzje podejmowane przez roboty bojowe. Zwiększy to poziom zaufania ludzi do „elektronicznych żołnierzy”.
Projekt Explainable Artificial Intelligence, lub po prostu XAI (Explainable Artificial Intelligence), pozwoli ludziom i robotom lepiej się zrozumieć. Sieć neuronowa XAI zbuduje logiczny łańcuch „rozumowania” robota i pokaże osobie, dlaczego maszyna podjęła właśnie taką decyzję - na przykład, aby otworzyć ogień do określonego celu.
Trwają prace nad stworzeniem mieszanych jednostek bojowo-ludzkich w armii amerykańskiej. Na razie trudno to sobie wyobrazić, ale za kilka dekad roboty staną się pełnoprawnymi żołnierzami - tak jak ludzie. Ponadto są w stanie zastąpić osobę w sytuacjach, w których może być konieczne otwarcie ognia do żywego celu. Taka zamiana formalnie zwalnia osobę z odpowiedzialności za podjęcie śmiertelnej decyzji, ale nie będzie w stanie pozbawić go wątpliwości i wyrzutów sumienia, a także może wywołać nieufność do robotów. Nigdy nie wiadomo - może roboty są tak naprawdę elektronicznymi maniakami, którzy lubią zabijać?
Projekt XAI powinien rozwiązać ten problem w interakcji człowiek-robot. Dzięki wprowadzeniu nowego systemu wojsko (ci, którzy nadal są ludźmi) będą w stanie zrozumieć, według jakiego kryterium maszyna oceniła ten lub inny przedmiot lub osobę jako zagrożenie. Ponadto XAI ułatwi robotom bojowym przystosowanie się do realiów konkretnego konfliktu zbrojnego i zmniejszy stopień bezsensownego okrucieństwa.
Nowa inwestycja przyda się nie tylko wojsku. Znajduje również zastosowanie w sferze cywilnej - w przemyśle, systemach bezpieczeństwa i medycynie. Przykład takiego wykorzystania podaje Bill Ferguson, czołowy specjalista w firmie Raytheon, który jest bezpośrednio zaangażowany w rozwój sieci neuronowej. „Jeśli sztuczna inteligencja wykryje na zdjęciu rentgenowskim oznaki raka płuc, lekarz może dowiedzieć się, dlaczego maszyna tak zdecydowała. Komputer podświetli wszystkie podejrzane obszary, które lekarz mógł zignorować, myląc z artefaktami obrazu. Po tym lekarz będzie mógł sam zdecydować, czy warto skorygować diagnozę, czy też sieć neuronowa się pomyliła - wyjaśnia naukowiec.