Znanstveniki in programerji so nehali razumeti, kako umetna inteligenca sprejema odločitve. Te težave je na glavni konferenci AI - Neural Information Processing Systems - v Long Beachu (Kalifornija) naznanilo več strokovnjakov.
Strokovnjaki, s katerimi je opravil Quartz, pravijo, da morajo ukrepati, preden sistem postane preveč zapleten.
"Nočemo sprejeti odločitev AI za samoumevne, ne da bi razumeli njihovo logiko," pravi Jason Yosinski iz Uberja. "Da bi družba sprejela modele strojnega učenja, moramo vedeti, kako AI prihaja do določenih zaključkov."
Problem, ki ga mnogi strokovnjaki imenujejo "črna skrinjica", je resnično resen. Dosedanje izkušnje so pokazale, da je AI nagnjen k sprejemanju pristranskih odločitev in vlečenju analogij, kjer ne bi smel. Ker danes nevronske mreže postopoma vdirajo v organe pregona, zdravstveni sistem, znanstvene raziskave in algoritme, ki določajo, kaj vidite na svojem Facebook newsfeedu, je napaka AI lahko zelo draga.
Kot primer je Kiri Wagstaff, strokovnjak za AI iz laboratorija Jet Propolusion (NASA), navaja misijo na Mars. Naprave se nahajajo 200 milijonov milj od Zemlje in stanejo več sto milijonov dolarjev, zato so kakršne koli napake pri delu AI preprosto nesprejemljive.
"Ljudje morajo vedeti, kaj AI počne in zakaj. V nasprotnem primeru, kako mu lahko zaupajo, da bo nadzoroval drago opremo? "Pravi Wagstaff.
Trenutno znanstvenik dela na algoritmu, ki razvršča slike, posnete z različnimi Nasi vesoljskimi plovili. Ker je število slik v milijonih, vam računalnik omogoča razvrščanje in poudarjanje najbolj zanimivih, ne da bi za to porabili veliko časa. Težava pa je v tem, da pogosto samo AI ve, zakaj so nekatere slike, ki jih izbere, nenavadne.
Tako zaključi Wagstaff, če v tem algoritmu pride do napake, bo nekega dne morda izpustil zelo pomembne podatke.
Promocijski video:
"V bistvu vam računalnik da sliko in reče:" Poglejte, to je zanimivo. " Toda ne morete vedno razumeti, zakaj je zanimivo: zaradi barve, oblike predmetov ali njihove lege v prostoru - tega verjetno ne veste, «pravi znanstvenik.
Hannah Wallach, višja raziskovalka pri Microsoftu, se strinja s sklepi svojih kolegov.
»Ko strojno učenje postaja vse bolj razširjeno in se vlog povečuje, teh sistemov ne moremo več gledati kot črne škatle. Moramo razumeti, kaj se dogaja v njih in kaj počnejo, je dejal raziskovalec.
Znanstveniki na srečo poskušajo najti metode za razumevanje logike umetne inteligence. Tako je Googlov raziskovalec Mitra Raghu predstavil poročilo, ki opisuje postopek sledenja dejanjem posameznih "nevronov" nevronske mreže. Z analizo milijonov operacij je lahko ugotovila, kateri od umetnih "nevronov" se je osredotočila na napačne predstave, in jih izklopila. To dokazuje, da prevajanje dela nevronskih mrež v obliko, ki je dostopna človeškemu razumevanju, ni tako nemogoča naloga.
Druga možnost za rešitev problema je, da redno preizkušate veščine, ki jih razvija umetna inteligenca.
"Kot učitelji prosijo otroke, naj z lastnimi besedami povedo, kaj so razumeli iz učiteljeve razlage," pravi Wagstaff.
Kljub temu pomembnost razumevanja notranjosti algoritma ni le v tem, da se prepreči, da bi hipotetični rover padel z marsovske skale; Če se zavedate, kaj je napaka, lahko izboljšate obstoječe sisteme še bolje.
"Če vaš sistem ne deluje in ne veste zakaj, potem je zelo težko nekaj storiti," pravi Yosinski. "Če veste, kaj se je zgodilo, potem lahko situacijo vedno popravite."
Rabljeni materiali s strani hightech.fm