Wszyscy czekamy na moment, kiedy sztuczna inteligencja, programy, technologia nauczą się robić praktycznie to samo, wtedy jesteśmy. To wszystko jest całkiem realne. Ale jak dotąd niewiele osób myśli, że mimo wszystko ten proces nie będzie taki sam dla maszyn i ludzi.
Na przykład grupa naukowców z Uniwersytetu Kyushu odkryła sposób na oszukanie programów rozpoznawania wzorców poprzez zmianę pojedynczego piksela na obrazie. Ten piksel jest umieszczony w taki sposób, że myli sieci neuronowe odpowiedzialne za identyfikację i zaczynają mylone psy z kotami, a konie z samochodami.
Obrazy testowe były ograniczone do zaledwie tysiąca pikseli, ale dla wyższych rozdzielczości i milionów pikseli ta reguła również działa. Tylko trzeba zmienić nie jeden piksel, ale kilkaset.
Drugiej grupie naukowców, tym razem z Massachusetts Institute of Technology, udało się pójść jeszcze dalej. Udało im się wydrukować rzeźbę żółwia za pomocą drukarki 3D, którą program nawet widząc ze wszystkich stron i pod dowolnym kątem wziął ją za karabin. Ten eksperyment stwarza znacznie większy problem dla technologii rozpoznawania obrazów, ponieważ wszystko wydarzyło się w rzeczywistości, a program mógł analizować obiekt ze wszystkich stron, ale nadal nie ustalił jego prawdziwego kształtu.
Oba badania pokazują, jak roboty i programy muszą podróżować, zanim osiągną poziom ludzki. W końcu naszych mózgów nie da się oszukać zastępując jeden, a nawet sto pikseli.
Szkoda tylko, że źródła nie podają wyjaśnienia, w jaki sposób okazuje się, że oszukuje program. Co myślisz? Na czym polega sekret „zepsutych pikseli” i jak można oszukiwać za pomocą modelu 3D?
Nikolay Kudryavtsev
Film promocyjny: