Wydajność obliczeniowa sztucznej inteligencji jest jak miecz obosieczny. Z jednej strony musi się raczej szybko uczyć, ale im bardziej sieć neuronowa „przyspiesza”, tym więcej energii zużywa. Oznacza to, że może stać się po prostu nieopłacalny. Jednak wyjście z tej sytuacji może dać IBM, który zademonstrował nowe metody nauczania sztucznej inteligencji, które pozwolą mu uczyć się kilka razy szybciej przy tym samym poziomie kosztów zasobów i energii.
Aby osiągnąć te wyniki, IBM musiał porzucić metody obliczeniowe wykorzystujące techniki 32-bitowe i 16-bitowe, opracowując technikę 8-bitową, a także nowy chip do pracy z nią.
Wszystkie rozwiązania IBM zostały zaprezentowane na NeurIPS 2018 w Montrealu. Inżynierowie firmy rozmawiali o dwóch wydarzeniach. Pierwsza to „głębokie uczenie maszynowe sieci neuronowych przy użyciu 8-bitowych liczb zmiennoprzecinkowych”. Opisują w nim, jak udało im się w taki sposób zmniejszyć precyzję arytmetyczną dla aplikacji z 32-bitowego do 16-bitowego i utrzymać ją w modelu 8-bitowym. Eksperci twierdzą, że ich technika przyspiesza czas uczenia głębokich sieci neuronowych 2-4 razy w porównaniu z systemami 16-bitowymi. Drugim udoskonaleniem jest „mnożenie 8-bitów w pamięci z pamięcią przewidywanych przejść fazowych”. Tutaj eksperci ujawniają metodę, która kompensuje niską dokładność analogowych układów AI, pozwalając im zużywać 33 razy mniej energii niż porównywalne cyfrowe systemy AI.
Vladimir Kuznetsov