Naukowcy z Massachusetts Institute of Technology (MIT) opracowali technikę oszukiwania sztucznej inteligencji analizującej tekst (AI), poinformował Wired 23 lutego.
Badacze zauważyli, że niewielka zmiana wyrażenia, zrozumiała dla człowieka, może oszukać sztuczną inteligencję. Opracowali algorytm zastępujący słowa synonimami i oszukujący rozpoznawalny tekst sztucznej inteligencji. Niuans polega na tym, że sam algorytm atakujący wykorzystuje sztuczną inteligencję do wybierania synonimów.
Na przykład zdanie „Postacie obsadzone w niemożliwie wymyślonych sytuacjach są całkowicie oderwane od rzeczywistości”. („Postacie grane w niesamowicie wymyślonych sytuacjach są zupełnie oderwane od rzeczywistości”), co jest negatywną recenzją filmu.
Jeśli zastąpimy zawarte w nim słowa synonimami, to fraza „Postacie, obsadzone w niemożliwie zaaranżowanych okolicznościach, są całkowicie oderwane od rzeczywistości” („Postacie grane w niewiarygodnie zręcznych okolicznościach są całkowicie oderwane od rzeczywistości”), wówczas SI uważa recenzję za pozytywną.
Można oszukać również inne typy systemów AI; w tym przypadku luki w zabezpieczeniach zostały wykazane głównie w systemach rozpoznawania obrazu i mowy.
Naukowcy zauważyli, że takie subtelne zniekształcenia danych mogą oszukiwać sztuczną inteligencję i być wykorzystywane do atakowania systemów, co staje się istotne w miarę rozpowszechniania się sztucznej inteligencji w dziedzinie finansów, opieki zdrowotnej i innych.