Raziskovalci z Massachusetts Institute of Technology (MIT) so razvili tehniko za oprijemanje besedilne analize umetne inteligence (AI), poroča Wired.
Raziskovalci so opazili, da lahko majhna sprememba fraze, ki je človeku razumljiva, zavede AI. Razvili so algoritem za nadomestitev besed s sinonimi in napeljevanje besedila za prepoznavanje AI. Niansa je v tem, da napadajoči algoritem sam uporablja AI za izbiro sinonimov.
Kot primer je stavek "Liki, ki se igrajo v nemogoče izmišljenih situacijah, popolnoma odtujeni od resničnosti." ("Liki, ki jih igramo v neverjetno navideznih situacijah, so popolnoma brez stika z resničnostjo"), kar je negativni pregled filma.
Če besede v njem nadomestite s sinonimi, potem je stavek "Liki, oddani v nemogoče zasnovanih okoliščinah, popolnoma odtujeni od resničnosti" ("Liki, odigrani v neverjetno spretnih okoliščinah, so popolnoma ločeni od resničnosti"), potem AI oceni pregled pozitiven.
Lahko se zavedejo tudi druge vrste AI sistemov, v tem primeru so ranljivosti dokazali predvsem v sistemih za prepoznavanje slike in govora.
Raziskovalci so ugotovili, da lahko takšna izkrivljanja podatkov zavedejo AI in se uporabijo za napad na sisteme, kar postane pomembno, ko se AI širi na področjih financ, zdravstva in drugih.