Znanstveniki z univerze v Chicagu (ZDA) so izvedli študijo, med katero so pokazali, kako se z umetno inteligenco lahko piše zapletene lažne kritike. Takšnih pregledov po sodobnih metodah ni mogoče ločiti od resničnih, nič hudega sluteči bralci pa se jim zdijo zelo zanesljivi.
Recenzije restavracij so bile ustvarjene z uporabo ponavljajočih se nevronskih mrež (tehnik poglobljenega učenja), ki so bile predhodno usposobljene za tisoče pregledov iz resničnega življenja, ki so na voljo na spletu.
Po mnenju raziskovalcev se ustvarjene ocene praktično niso razlikovale od dejanskih. Avtorji dela so torej pokazali, da uporabniki ne le niso prepoznali lažnih kritik, ampak so jih imeli tudi za koristne kot resnične, ki so jih napisali ljudje.
Slednje je verjetno najbolj zaskrbljujoče. Ker to v bistvu pomeni, da ocene, ki jih je napisal AI, izpolnjujejo svojo glavno funkcijo - namenoma vplivajo na mnenje ljudi.
Opozoriti je treba, da je bilo pri takih pregledih (z uporabo programske opreme) redko mogoče najti plagiat. To je posledica dejstva, da jih je umetni inteligenc ustvaril po karakterju, ne pa da bi črpal besede iz resničnih kritik.
Danes obstaja precej velika podzemna industrija, kjer ljudje pišejo lažne kritike (za denar). Kot je v intervjuju za Business Insider ugotovil profesor z Univerze v Chicagu Ben Y. Zhao, bi ga uvedba umetne inteligence lahko spodkopala. Znanstvenik pravi, da še ne ve za uporabo takšnih algoritmov v tej panogi. Vendar ni nobenega zagotovila, da si kdo ne bo izmislil česa podobnega in tega ne bo uporabil za osebno korist.
Hkrati raziskovalci pišejo, da odzivi nevronske mreže še vedno niso bili idealni. Izkazalo se je, da algoritem uporablja manjši nabor znakov - in tega ni bilo težko videti. Vendar pa so po mnenju avtorjev dela prihodnje nevronske mreže morda še bolj zapletene in zato bodo povratne informacije, ki jih ustvarijo, težje zaznati.
Zhao ugotavlja, da ne gre le za lažne ocene restavracij: takšne tehnologije lahko na splošno omajajo naše prepričanje o tem, kaj je resnično in kaj ne.
Promocijski video:
Besedilo študije najdete tukaj.