Strah pred umetno inteligenco je že dolgo vpet v popularno kulturo. Najboljši možje človeštva, od Stephena Hawkinga do Elona Muska, so govorili o eksistencialni grožnji digitalnega uma človeštvu.
Profesor kalifornijske univerze v Berkeleyju Stuart Russell govori tudi o njej, vendar v svoji viziji prihodnosti ni zlobnih robotov, ki bi se uprli človeški dominaciji.
Po Russellovem mnenju bodo stroji v nekem trenutku preprosto postali tako učinkoviti, da nas bodo uničili, izvajajo naloge, ki smo jim jih dali.
Russell je strokovnjak za strojno učenje in avtor knjige Human Compatible: AI and the Problem of Control.
"Tradicionalna hollywoodska zgodba je, da stroji spontano postanejo zavestni in se nato odločijo, da sovražijo ljudi in hočejo pobiti vse," ugotavlja profesor Russell.
Toda to je po njegovem mnenju napačna vizija robo-apokalipse, ker stroji nimajo človeških čustev.
"Skrbeti moramo ne za samozavedanje zlih strojev, temveč za kompetentnost strojev, ki opravljajo naloge, ki smo si jih zadali," je prepričan znanstvenik.
Promocijski video:
Preveč kompetenten
Profesor Russell je v intervjuju za BBC Today opisal hipotetično situacijo, v kateri bi lahko umetna inteligenca ogrozila obstoj človeštva.
Predstavljajte si, da obstaja super močna umetna inteligenca, ki lahko nadzoruje podnebje na planetu. Njegova naloga je, da raven ogljikovega dioksida v ozračju vrne na predindustrijsko raven.
"Sistem bo menil, da je najučinkovitejši način za to uničenje ljudi. Proizvajajo ogljikov dioksid, "pravi profesor.
"To se lahko izogne na primer tako, da ji postavijo pogoj, da se ljudi ne znebi. Kaj bo potem naredil sistem? Poskrbela bo, da se bo rodilo vse manj otrok, dokler ljudje v celoti ne izginejo."
To je primer, do česar lahko umetna inteligenca vodi v slabo zasnovane človeške napotke.
Superinteligenca
AI sistemi, ki obstajajo danes, imajo ozko usmerjene aplikacije. Narejeni so za reševanje jasno opredeljenih problemov na enem področju, pravijo znanstveniki Centra za preučevanje eksistencialnih tveganj na univerzi Cambridge.
Trijumfalni trenutek te filozofije AI je bila zmaga računalnika Deep Blue nad vladajočim svetovnim šahovskim prvakom Garryjem Kasparovom leta 1997.
* Zmaga Deep Blueja nad Kasparovom leta 1997 je bila zmaga AI.
Toda Deep Blue je bil ustvarjen izključno za šah. V dvoranah bi izgubil petošolca.
Nedavni napredek umetne inteligence nam je prinesel zelo različne programe.
Na primer, program AlphaGo Zero se je naučil igrati Go po svoje, ne da bi uporabil podatke o preteklih igrah, ki so jih igrali ljudje, in v samo treh dneh igranja s samim seboj je dosegel raven, nedosegljivo za navadno osebo.
Algoritmi za globinsko učenje so bili uporabljeni za ustvarjanje AlphaGo Zero. To pomeni, da je bilo za razvoj programa potrebno razmeroma malo človeškega dela.
Hkrati AlphaGo Zero zna dobro igrati tako v šahu kot na šogiju.
Spomnimo se, da je program popolnoma samoučen. To lahko nekatere zaskrbi.
"Ko AI postane močnejši in bolj vsestranski, obstaja tveganje, da bo postal nadinteligenten, torej da bo na številnih ali vseh področjih prekašal človeka," pravi Center za preučevanje eksistencialnih tveganj.
Ne vemo, kaj želimo
Profesor Russell meni, da preprosto dajanje AI zelo specifičnih nalog ni izhod, saj jih ljudje sami ne znajo dovolj dobro oblikovati.
"Ne zavedamo se, da nam nekaj ni všeč, dokler se ne zgodi," pravi.
"Spremeniti moramo zelo osnovni pristop k ustvarjanju AI sistemov," dodaja profesor. Meni, da je dodeljevanje nalog robotom, ki jih nato opravljajo, v osnovi napačno.
„Sistem mora razumeti, da mu cilj ni jasen. on reče. - Ko so takšni sistemi ustvarjeni, so resnično odvisni od osebe. Začnejo prositi za dovoljenje, preden nekaj storijo, ker niso prepričani, če želite."
Najpomembneje je, pravi profesor, da se ne bodo uprli, če se boste odločili, da jih izklopite, saj so zasnovani tako, da ne počnejo tistega, kar vam ni všeč.
Aladdinova svetilka
Danes je AI ustvarjen, kot da bi bil genij iz svetilke, pravi profesor Russell. Drgneš svetilko in rečeš: "Želim, da se to in to zgodi."
V vesoljski odiseji * Stanleyja Kubricka iz leta 2001 se superinteligentni računalnik upira ljudem, ki se odločijo za gašenje.
In če je umetna inteligenca dovolj močna, bo storila točno tisto, kar vprašate.
"Težava z ginom je, da je tretja želja vedno odpovedati prva dva, ker jih je oseba napačno frazirala."
"Stroj, ki zasleduje napačen cilj, postane dejansko sovražnik človeštva in ta sovražnik je veliko močnejši od nas," zaključuje znanstvenik.