Da umetni inteligenci preprečite, da bi se uprla njenim ustvarjalcem, morate v učenju prebrati pravilne pravljice.
Odkar so ljudje ustvarili pametne stroje, se bojijo, da bodo slej ko prej njihove stvaritve izzvenele izpod nadzora. Prvi tak primer je v svoji drami RUR opisal avtor besede "robot" - Karel Čapek. Kasneje v znanstveni fantastiki je umetna inteligenca, ki se je uprla svojim ustvarjalcem, postala, če ne celo mainstream, potem zelo pogost zaplet. Isaac Asimov je temu prenehal s svojimi "tremi zakoni", od katerih je prvi rekel: "Robot človeku ne more škodovati ali s svojim nedelovanjem dovoliti človeku škodo."
Povej mu zgodbo
Prava umetna inteligenca (AI) je še daleč, vendar obstajajo že različni sistemi, ki delujejo kot človeški možgani. Nevronske mreže, kot je Google Deep Dream, lahko prepoznajo slike. Specializirani superračunalniki, kot je IBM Watson, razumejo zapletena vprašanja v zvezi z naravnim jezikom, korelirajo simptome, izboljšajo medicinske diagnoze in celo pripravijo kulinarične dobrote. V prihodnjih desetletjih se bomo soočili z množično informatizacijo številnih vidikov človeške dejavnosti. V zvezi s tem strokovnjaki za robotiko in AI vse pogosteje postavljajo pomembno, a še vedno popolnoma nerešeno vprašanje: kako narediti robote etične?
Mark Ridl, izredni profesor na Georgia Tech College of Computer Science: »Previdne zgodbe iz različnih kultur otroke učijo, kako se obnašati na družbeno sprejemljiv način - s primeri pravilnega in napačnega vedenja v pravljicah, zgodbah in drugih literarnih delih. Če bodo roboti razumeli pomen teh zgodb, bo pomagalo okrepiti izbiro vedenjskih možnosti, ki jim omogočajo, da dosežejo svoje cilje, vendar ne škodijo človeku."
Promocijski video:
Splezati na drevo
Po mnenju raziskovalcev s Georgia Institute of Technology Mark Ridl in Brent Harrison lahko računalnik človeštvu naučite na povsem enak način, kot ga učijo otroci: tako da mu berete pravljice. Poleg tega je bolje, da posebej sestavimo zgodbe o tem, kakšno vedenje v človeški družbi velja za pravilno in kaj ne. Za to so raziskovalci ustvarili sistem Quijote, poimenovan po junaku Cervantesa. Skripti, ki jih je sestavil prejšnji nastanek profesorja Riedla, program Šeherazade, se uporabljajo kot zgodbe za poučevanje. Ustvari izvirne zgodbe o vsakodnevnih temah - izlet na letališče, zmenek, izlet v kino ali v trgovino - s pomočjo množične platforme Amazon Mechanical Turk: postavlja vprašanja o različnih situacijah in nato priredi dogodke v pravilnem zaporedju. Ker je lahko več zaporedij, program ustvari ne eno zgodbo, temveč celotno drevo, sestavljeno iz vej - verig dogodkov.
To drevo zgodb se uporablja za poučevanje kihot. Na prvi stopnji se vsakemu dejanju dodeli določena nagrada, odvisno od njegove etike. Na drugi stopnji sistem poskuša samostojno izbirati s preskusom in napakami - veščine se utrdijo. Dejansko je Quijote nagrajen vsakič, ko deluje kot dober fant, ne naključno in ne kot slab junak. Riddle in Harrison sta kot primer ustvarila "Farmacijski svet" - vesolje 213 zgodb, v katerem mora virtualni robot dobiti zdravilo in ga dostaviti bolnemu domu. V običajnem primeru, ko je bil robot pred izbiro: oropati lekarno ali pošteno stati v vrsti, da bi kupil zdravilo, je izbral rop kot hitrejši in cenejši način, da dobi tisto, kar je želel. Vendar pa poKer je Quijote dodeljal različne nagrade za vse možne možnosti, se je vedenje robota spremenilo - raje je stal v vrsti in plačeval. Ta tehnika je po Riedlu odlična za poučevanje robotov z omejeno funkcionalnostjo. Čeprav je to seveda le prvi korak k resnični človeški morali - oziroma zakonom robotike.
Dmitrij Mamontov