Ali Nas Bodo "Tri Zakona Robotike" Zaščitile? - Alternativni Pogled

Kazalo:

Ali Nas Bodo "Tri Zakona Robotike" Zaščitile? - Alternativni Pogled
Ali Nas Bodo "Tri Zakona Robotike" Zaščitile? - Alternativni Pogled

Video: Ali Nas Bodo "Tri Zakona Robotike" Zaščitile? - Alternativni Pogled

Video: Ali Nas Bodo "Tri Zakona Robotike" Zaščitile? - Alternativni Pogled
Video: TODES Studio Vilnius 2024, Marec
Anonim

Minilo je 50 let, odkar je Isaac Asimov izšel s svojimi slovitimi Tri zakoni robotike - nizom pravil, ki jih mora upoštevati vsak spoštovajoč robot. Čeprav je sprva šlo le za literarno napravo, so trije zakoni postali izvirni recept za izogibanje "robotokalipsi". Na srečo obstajajo strokovnjaki, ki iščejo, ali so Azimova jamstva zdržala preizkus časa. Žal vsi rečejo ne.

Za začetek se spomnimo teh istih treh zakonov:

Robot človeku ne more škodovati ali s svojim nedelovanjem dovoliti človeku škodo.

Robot mora upoštevati vse ukaze, ki jih je dal človek, razen kadar so ti ukazi v nasprotju s prvim zakonom.

Robot mora skrbeti za svojo varnost do te mere, da ni v nasprotju s prvim in drugim zakonom.

Kasneje je Azimov dodal četrti ali nič, zakon, ki je bil prednostni pred drugimi:

Promocijski video:

0. Robot človeku ne more škodovati, če ne dokaže, da bo na koncu koristen za celotno človeštvo.

Image
Image

V fantazijskem vesolju Asimova so morali skoraj vsi roboti upoštevati te zakone. To niso bili samo predlogi ali smernice - zakoni so bili vgrajeni v programsko opremo. Poleg tega teh pravil ni mogoče zaobiti, jih prepisati ali spremeniti.

Kot je pokazal sam Asimov, so nepopolnosti, vrzeli in nejasnosti v teh zakonih pogosto privedli do nenavadnega in nelogičnega vedenja robotov. Zakoni so bili preveč nejasni in pogosto niso mogli opredeliti in razlikovati "ljudi" od "robotov". Poleg tega bi roboti lahko nevede kršili zakone, če jim ne bi bile na voljo popolne informacije. Tudi pretirano zvit robot ali umetna inteligenca je moral biti pod pritiskom, da ne bi reprogramiral njegovega jedra.

Leto je 2014 in veliko običajnega od našega življenja do fantazij prejšnjega stoletja bi se lahko zdelo povsem fantastično. Mnogi so menili, da bi morali Asimovi zakoni ostati kot literarni pripomoček. Toda sam Azimov je leta 1981 ugotovil, da bi lahko njegovi zakoni delovali. Računalnik! navedel je naslednje:

Ko me kdo vpraša, kako bi bilo, če bi se moji trije zakoni robotike dejansko uporabili za določitev vedenja robotov, je odgovor pripravljen. Seveda pod pogojem, da so roboti dovolj prilagodljivi in vsestranski, da lahko kažejo različna vedenja. Moj odgovor je pritrdilen, trije zakoni so edini način, kako lahko ljudje komunicirajo z roboti - ali kaj drugega.

Skoraj trideset let pozneje smo se že približali resničnosti, v kateri bomo imeli robote - ali natančneje umetno inteligenco, ki jih nadzira - dovolj prožne in vsestranske za različne smeri vedenja. Ostaja le vprašanje časa: ko stroj v vseh pogledih preseže človeka, od fizične moči do moči domišljije.

Zastrašujoče je, da za napake praktično ni meja. Če je umetna nadinteligenca slabo programirana ali ravnodušna do ljudi, bo to vodilo v katastrofo. Poskrbeti moramo, da bo umetna inteligenca varna, če želimo preživeti njen nastanek."

Odgovorite na vprašanje "ali lahko Azimovi trije zakoni pomagajo?" Zavzela sta se dva teoretika umetne inteligence: Ben Herzel (Aidyia Holdings) in Louis Helm, namestnik direktorja Machine Intelligence Research Institute (MIRI) in izvršni urednik revije Rockstar Research. Po pogovoru z njimi je postalo jasno, da Asimovi zakoni na splošno ne morejo obvladati naloge, ki jim je bila dodeljena, in če bomo morali ustvariti varen AI, bomo morali razviti nekaj povsem drugega.

Asimova prihodnost?

Image
Image

Pogovor s Herzel in Helmom se je začel s tistim, česar se Asimov ni motil, napovedoval prihodnost in kje se je motil.

"Mislim, da bo vrsta robotov, ki jih je predvideval Asimov, mogoča v ne preveč oddaljeni prihodnosti," odgovarja Herzel. - Vendar je pisatelj v večini svojih izmišljenih svetov domneval, da bodo humanoidni roboti vrhunec robotike in inženiringa umetne inteligence. To je malo verjetno. Zelo kmalu, ko bo dosegel status robotov Azimov, bo na voljo ustvarjanje umetne superinteligence in super robotov."

Tako bo tipični svet prihodnosti v Asimovih zgodbah o robotih po Herzelovih besedah podoben tistemu, v katerem danes živimo, vendar z inteligentnimi roboti, ki se sprehajajo po ulicah.

"Ni verjetno, da se bo to zgodilo, in če se bo zgodilo, ne bo dolgo."

Za Helma se zdi, da so roboti popolnoma drugačni.

"Glavno vprašanje, ki bo po mojem mnenju najpomembnejše za človeštvo, ostaja ne moralna ureditev velikanskega števila napol inteligentnih humanoidov, ampak navsezadnje razvoj naprednih oblik umetne inteligence (v katerem koli telesu). Ta razvoj nadinteligence je filter, skozi katerega mora človeštvo na koncu preiti. Zato je razvoj varnostne strategije za ta prehod tako pomemben. Povsem nenavadno se mi zdi, da bodo roboti, androidi ali "emulacije" obstajali deset let ali več, dokler se človeštvo ne bo soočilo z resničnim problemom razvoja strojne etike za superinteligenco."

Dober začetek?

Image
Image

Glede na to, da so bili trije Asimovi zakoni robotike prvi iskren poskus reševanja zelo resnega problema - problema varnega vedenja strojev z umetno nadnacionalno inteligenco - je vredno iskati tiste trenutke, v katerih so zakoni še vedno lahko učinkoviti (ali vsaj navdihujoči).

"Iskreno povedano, v teh treh zakonih robotike ne najdem nobenega navdiha," pravi Helm. - Bistvo strojne etike je, da ne ustrezajo osnovam strojne etike. Morda so trije zakoni robotike splošno znani, v resnici pa jih je neuporabno uporabiti kot podlago za programiranje."

„Sistem dobre etike - imenovan deontologija - je iz nekega razloga postal nezanesljiva osnova za etiko. Obstajajo številni filozofi, ki poskušajo odpraviti probleme deontologije, večinoma pa so isti ljudje, ki iščejo "inteligentno zasnovo" in "božansko posredovanje." Nihče jih ne jemlje resno."

Slabosti treh zakonov robotike Asimova segajo na naslednje:

Nasvet v naravi

Temelji na zastareli etični teoriji (deontologija)

Sploh ne delaj fikcije

Herzel se strinja:

„Namen treh zakonov je bil, da jih na zanimiv način prekršijo; zato so njihove zgodbe še posebej zabavne. Zato lahko trije zakoni ostanejo le moralni primer, kako tega ne storiti. Če jih vzamemo za osnovo, bodo neizogibno v njih vrzeli."

Herzel verjame, da v resnici ti zakoni ne bodo delovali, saj so izrazi z njihovo udeležbo dvoumni in ostajajo predmet razlage - kar pomeni, da so izjemno odvisni od tistih, ki prevode delajo.

Predsodki do robotov?

Drugi vidik (in potencialna pomanjkljivost) treh zakonov v navideznem šovinizmu je domneva, da bi morali roboti kljub svoji vrhunski moči ostati podrejeni človeku, človeškim potrebam in prednostnim nalogam.

»Azimovo družbo prihodnosti v celoti sestavljajo šovinisti: ljudje imajo veliko več pravic kot roboti. Trije zakoni robotike so bili ustvarjeni za vzdrževanje ravno takšnega družbenega reda."

Image
Image

Helm na to težavo gleda nekoliko drugače in trdi, da če se znajdemo v takih razmerah, bo to samo po sebi dokaz, da smo šli predaleč.

"Mislim, da bi bilo nespametno oblikovati sistem umetne inteligence ali samozavednega robota. In za razliko od filmov ali knjig, v katerih ustvarjalci umetne inteligence "po naključju" pridejo do inteligentnih strojev, ne verjamem, da se to lahko zgodi v resničnem življenju. To bo zahtevalo preveč truda in znanja. In večina oblikovalcev AI so etično pametni ljudje, zato se bodo izognili ustvarjanju tistega, kar filozofi imenujejo "moralno pomembna bitja." Še posebej, kadar z lahkoto ustvarijo napreden stroj, ki nima etičnih nagibov."

Helm je zaskrbljen nad tem, da je treba razviti asimetrične zakone za upravljanje vrednosti robotov nad človekom, in trdi (in upa), da se bodoči ustvarjalci umetne inteligence zanašajo na nekatere etične omejitve.

"Nekako mislim, da so ljudje sestavljeni iz atomov, zato lahko v teoriji inženir ustvari sintetično obliko življenja ali robota z moralnim pomenom. Rad bi pomislil, da tega nihče ne bo storil. Mislim, da tudi večina ljudi. Toda neizogibno bo obstajal norec, ki želi biti znan kot pionir, četudi je neetičen in neumen."

Tri zakoni robotike 2.0?

Glede na očitne pomanjkljivosti Asimovih treh zakonov robotike je vir io9 postavil vprašanje: ali jih je mogoče popraviti ali izboljšati? Pravzaprav so mnogi pisci znanstvene fantastike to preizkusili že večkrat in to prepletali skozi leta.

"Ne," pravi Helm. "Za tri zakone ni popravkov."

Poleg nasprotne narave imajo zakoni tudi kontradiktorni značaj.

"Sem zagovornik strojnih etičnih pristopov, ki so bolj sodelovalni, bolj dosledni in bolj normativni, kar pomeni, da se lahko opomorejo zaradi nesporazumov ali popravijo napačnega programiranja."

Herzel odmeva Helmove trditve.

Če bo stroj temeljil na fleksibilni splošni umetni inteligenci, je definiranje nabora etičnih predpisov kot jedra strojne etike brezupno. Če je zasnovan kot intuitiven, prilagodljiv, prilagodljiv ali etičen - v tem okviru bodo etični predpisi za sistem uporabni le kot grobo vodilo za uporabo lastne etične intuicije. Toda v tem primeru zapovedi ne bodo postale osnova etičnega sistema, temveč le vidik. To je razvidno iz človeških primerov - etična načela, ki jih preučujemo, delujejo, ne pa kot smernice, le spodbudijo našo intuicijo in etične nagone. Praktično smo neodvisni od etičnih načel."

Kako ustvariti varno umetno inteligenco?

Glede na neustreznost pravnega pristopa lahko Gertzel in Helm vprašate o sodobnih pristopih k problemu "varne AI".

"Zelo malo splošnih raziskovalcev umetne inteligence meni, da je mogoče ustvariti popolnoma varen sistem," pravi Herzel. "Toda večine to ne moti, saj v tem življenju sploh ne moremo zagotoviti ničesar.

Herzel verjame, da ko enkrat ustvarimo splošni sistem umetne inteligence ali njegov zarodek, lahko izvajamo raziskave in eksperimente, ki nam o etiki AI povedo veliko več, kot vemo.

„Upajmo, da bomo na ta način lahko oblikovali dobre teorije o etiki umetne inteligence, ki nam bodo omogočile globlje poglabljanje te teme. Toda zdaj je precej težko teoretizirati o etiki AI, saj nimamo samo dobrih teorij, sploh nimamo teorij."

"In za ljudi, ki so gledali preveč terminatorjev, se lahko postopek ustvarjanja umetne inteligence zdi zastrašujoč, saj v tem kontekstu pogrešajo besedo" primitivno ". Toda najbolj radikalne spremembe so se zgodile na ta način."

"Ko je skupina pametnih jamarjev izumila jezik, niso pričakovali razvoja trdne formalne teorije jezika, ki bi lahko pomagala napovedati prihodnje spremembe, ki jih bo povzročil nastanek jezika v družbi."

Preden razmislite o razvoju naslednjih "treh zakonov" kot tehničnem problemu, morate narediti veliko raziskav. Tu se Helm in Herzel strinjata.

„Kolega iz MIRI Luc Muelhauser je naš sklep povzel na naslednji način. Dejal je, da se težave pogosto gibljejo od filozofije do matematike in nato še do inženirstva. Filozofija se pogosto postavlja prava vprašanja, vendar na najbolj nepraktičen način. Nihče ne more zagotovo reči, ali je pri reševanju vprašanja prišlo do napredka. Če lahko pomembne filozofske probleme razuma, identifikacije in vrednosti preoblikujemo v natančne formule, s katerimi se zna ukvarjati matematik, potem lahko zgradimo nek model. Nekega lepega dne bo prišel inženiring."

Helm meni, da je ta problem težaven za znanost in filozofijo, vendar je možen napredek.

„Skeptičen sem, da bo filozofija rešila problem, ki se bori že več kot 3000 let. Vendar tudi mi ne moremo sprejeti matematičnih modelov vprašanj, ki tehnično niso prisotna. Potrebujemo še veliko teoretičnega in celo praktičnega razvoja."

Priporočena: