Naukowcy i programiści przestali rozumieć, w jaki sposób sztuczna inteligencja podejmuje decyzje. Problem ten został zgłoszony przez kilku specjalistów na głównej konferencji AI - Neural Information Processing Systems - odbywającej się w Long Beach (Kalifornia).
Eksperci, z którymi rozmawiał Quartz, twierdzą, że muszą działać, zanim system stanie się zbyt złożony.
„Nie chcemy przyjmować decyzji AI za pewnik bez zrozumienia ich logiki” - mówi Jason Yosinski z firmy Uber. „Aby społeczeństwo zaakceptowało modele uczenia maszynowego, musimy wiedzieć, w jaki sposób sztuczna inteligencja dochodzi do pewnych wniosków”.
Problem, który wielu ekspertów nazywa „czarną skrzynką”, jest naprawdę poważny. Wcześniejsze doświadczenia pokazały, że sztuczna inteligencja ma tendencję do podejmowania tendencyjnych decyzji i tworzenia analogii tam, gdzie nie powinna. Ponieważ sieci neuronowe stopniowo infiltrują organy ścigania, system opieki zdrowotnej, badania naukowe i algorytmy, które określają to, co widzisz dziś w kanale wiadomości na Facebooku, błąd sztucznej inteligencji może być bardzo kosztowny.
Jako przykład Kiri Wagstaff, ekspert AI z Jet Propolusion Lab (NASA), przytacza misję na Marsa. Urządzenia znajdują się 200 milionów mil od Ziemi i kosztują setki milionów dolarów, więc jakiekolwiek błędy w działaniu AI są po prostu nie do przyjęcia.
„Ludzie muszą wiedzieć, co robi sztuczna inteligencja i dlaczego. W przeciwnym razie, jak mogą mu ufać, że będzie kontrolował drogi sprzęt?”- mówi Wagstaff.
W tej chwili naukowiec pracuje nad algorytmem, który sortuje zdjęcia zrobione przez różne statki kosmiczne NASA. Ponieważ liczba zdjęć jest w milionach, komputer umożliwia sortowanie i zaznaczanie najciekawszych bez poświęcania dużej ilości czasu na ten proces. Problem polega jednak na tym, że często tylko sama sztuczna inteligencja wie, dlaczego wybrane przez nią obrazy są niezwykłe.
W związku z tym, podsumowuje Wagstaff, jeśli w tym algorytmie wystąpi błąd, pewnego dnia może przeoczyć bardzo ważne informacje.
Film promocyjny:
„Zasadniczo komputer wyświetla obraz i mówi:„ Słuchaj, to jest interesujące”. Ale nie zawsze możesz zrozumieć, dlaczego jest interesujący: ze względu na kolor, kształt obiektów czy ich położenie w przestrzeni - prawdopodobnie tego nie wiesz”- mówi naukowiec.
Hannah Wallach, starszy badacz w firmie Microsoft, zgadza się z wnioskami swoich kolegów.
„Ponieważ uczenie maszynowe staje się coraz bardziej rozpowszechnione, a stawka rośnie, nie możemy już postrzegać tych systemów jako czarnych skrzynek. Musimy zrozumieć, co się w nich dzieje i co robią”- powiedział badacz.
Naukowcy na szczęście próbują znaleźć metody, które pozwolą zrozumieć logikę sztucznej inteligencji. W związku z tym badacz Google Mitra Raghu przedstawił raport opisujący proces śledzenia działań poszczególnych „neuronów” sieci neuronowej. Analizując miliony operacji, była w stanie dowiedzieć się, który ze sztucznych „neuronów” skupiał się na błędnych przekonaniach i wyłączyć je. Dowodzi to, że przełożenie działania sieci neuronowych na formę dostępną dla ludzkiego zrozumienia nie jest zadaniem tak niemożliwym.
Inną opcją rozwiązania problemu jest regularne testowanie umiejętności rozwijanych przez sztuczną inteligencję.
„To tak, jakby nauczyciele w szkole proszą dzieci, aby własnymi słowami powtórzyły to, co zrozumiały z wyjaśnienia nauczyciela” - mówi Wagstaff.
To powiedziawszy, znaczenie zrozumienia wewnętrznych elementów algorytmu polega nie tylko na zapobieganiu wypadnięciu hipotetycznego łazika z marsjańskiej skały; zdając sobie sprawę, na czym polega awaria, możesz ulepszyć istniejące systemy.
„Jeśli Twój system nie działa i nie wiesz dlaczego, to bardzo trudno jest coś z tym zrobić” - mówi Yosinski. „Jeśli wiesz, co się stało, sytuacja zawsze może zostać naprawiona”.
Wykorzystane materiały z serwisu hightech.fm