Naukowcy z University of Chicago (USA) przeprowadzili badanie, w trakcie którego pokazali, jak można wykorzystać sztuczną inteligencję do pisania złożonych fałszywych recenzji. Takie recenzje są nie do odróżnienia od prawdziwych przy użyciu nowoczesnych metod, a niczego nie podejrzewający czytelnicy uważają je za wysoce wiarygodne.
Recenzje restauracji były generowane przy użyciu powtarzających się sieci neuronowych (technik głębokiego uczenia), które wcześniej były szkolone na tysiącach rzeczywistych recenzji dostępnych w Internecie.
Zdaniem naukowców wygenerowane recenzje były praktycznie nie do odróżnienia od prawdziwych. Tak więc autorzy pracy pokazali, że użytkownicy nie tylko nie rozpoznali fałszywych recenzji, ale także uznali je za przydatne, jak prawdziwe napisane przez ludzi.
To ostatnie jest chyba najbardziej niepokojące. Ponieważ w istocie oznacza to, że recenzje pisane przez sztuczną inteligencję spełniają swoją główną funkcję - celowo wpływają na opinie ludzi.
Należy zauważyć, że w takich recenzjach rzadko wykryto plagiat (przy użyciu oprogramowania). Wynika to z faktu, że sztuczna inteligencja generowała je według postaci i nie wyrywała słów z prawdziwych recenzji.
Obecnie istnieje dość duży przemysł podziemny, w którym ludzie piszą fałszywe recenzje (za pieniądze). Jednak, jak zauważył profesor z University of Chicago Ben Y. Zhao w wywiadzie dla Business Insider, wprowadzenie sztucznej inteligencji może to podważyć. Naukowiec twierdzi, że nie wie jeszcze o zastosowaniu takich algorytmów w tej branży. Ale nie ma gwarancji, że ktoś nie wymyśli czegoś podobnego i nie wykorzysta tego dla osobistych korzyści.
Jednocześnie naukowcy piszą, że odpowiedzi sieci neuronowej nadal nie były idealne. Okazało się, że algorytm wykorzystywał mniejszy zestaw znaków - i nie było to trudne do zauważenia. Jednak zdaniem autorów pracy przyszłe sieci neuronowe mogą być jeszcze bardziej złożone, w związku z czym generowane przez nie sprzężenia zwrotne będą trudniejsze do wykrycia.
Jiao zauważa, że nie chodzi tylko o fałszywe recenzje restauracji: takie technologie mogą ogólnie wstrząsnąć naszymi przekonaniami o tym, co jest prawdziwe, a co nie.
Film promocyjny:
Tekst badania można znaleźć tutaj.
