Vsi čakamo na trenutek, ko se umetna inteligenca, programi, tehnologija naučijo narediti praktično enako, potem smo. To je vse povsem resnično. Toda doslej le malo ljudi misli, da vseeno ta postopek ne bo enak strojem in ljudem.
Skupina raziskovalcev z univerze Kyushu je na primer odkrila način, kako zavajati programe za prepoznavanje vzorcev s spreminjanjem enega piksla v sliki. Ta piksel je postavljen tako, da zmede nevronske mreže, ki so odgovorne za identifikacijo, in začnejo napake psov za mačke in konje za avtomobile.
Preskusne slike so bile omejene na samo tisoč slikovnih pik, vendar pri višjih ločljivostih in milijonih slikovnih pik to pravilo tudi deluje. Spremeniti je treba le en piksel, ampak nekaj sto.
Drugi skupini raziskovalcev, tokrat z Massachusettskega tehnološkega inštituta, je uspelo iti še dlje. Na 3D-tiskalniku so lahko natisnili skulpturo želve, ki jo je program, tudi z vseh strani in iz katerega koli kota, vzel za puško. Ta poskus predstavlja veliko večjo težavo za tehnologijo prepoznavanja slike, saj se je celotna stvar zgodila v resnici, program pa je lahko analiziral predmet iz vseh zornih kotov, vendar še vedno ni določil njegove prave oblike.
Obe študiji skupaj kažeta, kako morajo roboti in programi potovati, preden dosežejo človeško raven. Navsezadnje naših možganov ne moremo zavajati z zamenjavo enega ali celo sto pik.
Škoda je le, da viri ne dajejo razlage, kako se izkaže, da je program prevaral. Kaj misliš? V čem je skrivnost "pokvarjenih pik" in kako lahko varate s 3D modelom?
Nikolaj Kudryavtsev
Promocijski video: