Izraelscy matematycy udowodnili, że sztuczna inteligencja nie zawsze jest w stanie znaleźć wzorce w zbiorach danych lub udzielić jednoznacznych odpowiedzi na jakiekolwiek pytania. Ich odkrycia zostały przedstawione w czasopiśmie Nature Machine Intelligence.
Nowoczesne systemy uczenia maszynowego i sztucznej inteligencji działają na bardzo prostej zasadzie. Stopniowo uczą się „widzieć” określone wzorce i odróżniać odpowiedzi poprawne od nieprawidłowych, korzystając z obszernych baz danych przygotowanych przez człowieka.
Początkowo podejście to było wykorzystywane głównie do tworzenia systemów rozpoznawania obrazów. Później okazało się, że można go wykorzystać niemal do wszystkiego, od „kreatywnych” AI, które potrafią samodzielnie rysować i tworzyć muzykę, po maszynę AlphaZero, która potrafi uczyć się bez pomocy ludzi i grać w kilka gier planszowych, znając tylko ich zasady.
Takie sukcesy, zauważa Yehudayoff, zmusiły programistów, filozofów i matematyków do zastanowienia się, czy ta metoda rozwiązywania problemów ma ograniczenia i czy niezwykle „ogólna” sztuczna inteligencja może znaleźć wzorzec w dowolnym zbiorze danych i odpowiedzieć na wszystkie możliwe pytania.
Izraelscy matematycy próbowali dowiedzieć się, czy tak jest naprawdę, analizując najbardziej ogólne wersje różnych problemów matematycznych, które są obecnie aktywnie rozwiązywane za pomocą systemów uczenia maszynowego.
Zwrócono ich uwagę na wersje sztucznej inteligencji, które próbują przewidywać maksymalne wartości przy użyciu niekompletnych zbiorów danych. Na przykład takie maszyny próbują odgadnąć preferencje odwiedzających daną witrynę i wybrać takie reklamy, które byłyby interesujące dla większości z nich.
Przedstawiając ten problem jako zbiór kilku dużych i małych zbiorów, Yehudaioff i jego współpracownicy stwierdzili, że jest on podobny w swoim opisie do słynnego twierdzenia Gödla. Już w 1940 roku słynny austriacki matematyk Kurt Gödel odkrył, że jakikolwiek system formalny, w tym sama matematyka, jest niekompletny lub sprzeczny.
Innymi słowy, oznacza to, że zarówno dla systemów uczenia maszynowego, jak i dla „prostych” matematyków, istnieją problemy, stwierdzenia i pytania, których nie da się rozwiązać, udowodnić ani obalić bez wychodzenia poza nie.
Film promocyjny:
W tym przypadku nie można na przykład przewidzieć, czy sztuczną inteligencję da się „wyszkolić” do idealnego dopasowywania reklam, korzystając ze znajomości preferencji tylko niewielkiej, dowolnej liczby odwiedzających. W zależności od tego, którzy odwiedzający portal zostaną uwzględnieni w tym przykładzie, problem ten jest zarówno możliwy do rozwiązania, jak i nierozwiązywalny.
Jak podkreślają naukowcy, z praktycznego punktu widzenia odkrycie to w żaden sposób nie wpływa na to, jak aktywnie sztuczna inteligencja będzie się rozwijać w przyszłości i jak dobrze rozwiąże praktyczne problemy. Z drugiej strony obecność takich ograniczeń sugeruje, że stworzenie uniwersalnej „myślącej” maszyny zdolnej do rozwiązywania wszelkich problemów będzie znacznie trudniejsze, niż sądzą dziś naukowcy.