Kot raziskovalec AI sem pogosto soočen z mnenjem, da se veliko ljudi boji AI in kaj lahko postane. Pravzaprav ni presenetljivo, če pogledate z vidika človeške zgodovine, hkrati pa bodite pozorni na to, kaj nas zabava industrija, da se ljudje lahko bojimo kibernetskega upora, ki nas bo prisilil, da bomo živeli na izoliranih območjih, druge pa spremenili v človeške baterije, ki so "podobne matriki". …
In vendar je zame, ko gledam na vse te evolucijske računalniške modele, ki jih uporabljam pri razvoju AI, težko pomisliti, da se lahko moja neškodljiva bitja, čista kot otroške solze, na računalniškem zaslonu nekega dne spremenijo v pošasti futuristične distopije. Ali me lahko resnično imenujemo "uničevalec svetov", kot je Enpenheimer nekoč obžaloval in povedal o sebi, potem ko je vodil program za ustvarjanje jedrske bombe?
Morda bi sprejel takšno slavo ali pa so morda kritiki mojega dela navsezadnje? Mogoče bi se res moral nehati izogibati vprašanjem, kakšne strahove imam pred AI kot strokovnjakom za AI?
Strah pred nepredvidljivostjo
HAL 9000, sanje pisatelja znanstvene fantastike Arthurja Charlesa Clarka, ki ga je zaživel filmski ustvarjalec Stanley Kubrick v 2001 A Space Odyssey, je odličen primer sistema, ki se je zrušil zaradi nepredvidenih okoliščin.
V mnogih zapletenih sistemih - Titaniku, vesoljski ladji NASA in jedrski elektrarni v Černobilu so morali inženirji kombinirati številne komponente. Mogoče so se arhitekti teh sistemov dobro zavedali, kako deluje vsak njegov element posebej, vendar niso dovolj dobro razumeli, kako bodo vse te komponente delovale skupaj.
Promocijski video:
Rezultat so bili sistemi, ki jih lastni ustvarjalci niso nikoli popolnoma razumeli, kar je privedlo do znanih posledic. V vsakem primeru je ladja potonila, dve ladji sta eksplodirali, skoraj celotna Evropa in deli Azije pa so se soočali s težavo radioaktivne kontaminacije - nizom sorazmerno majhnih težav, ki so se zgodile hkrati, kar je povzročilo katastrofalen učinek.
Popolnoma si lahko predstavljam, kako lahko mi, ustvarjalci AI, dosežemo podobne rezultate. Vzamemo najnovejša dogajanja in raziskave kognitivne znanosti (znanost o razmišljanju - ur.), Jih prevedemo v računalniške algoritme in vse to dodamo obstoječim sistemom. AI skušamo razviti brez popolnega razumevanja lastne inteligence in zavesti.
Sistemi, kot sta IBM-ov Watson ali Googlova Alpha, so umetna nevronska omrežja z impresivno računalniško močjo in zmožnostjo reševanja resnično zapletenih nalog. Toda za zdaj je edina stvar, do katere bo prišlo do napake pri njihovem delu, posledica izgube v intelektualni igri "Jeopardy!" ali zamujeno priložnost za poraz še ene najboljše svetovne logične družabne igre Go.
Te posledice niso svetovne narave. V resnici je najslabše, kar se v tem primeru lahko zgodi ljudem, da nekdo izgubi nekaj denarja pri stavah.
Vendar arhitektura AI postaja bolj zapletena in računalniški procesi postajajo hitrejši. Zmogljivosti AI se bodo sčasoma le povečale. In že to nas bo pripeljalo do dejstva, da bomo AI začeli dodeljevati vedno več odgovornosti, kljub vse večjim tveganjem nepredvidenih okoliščin.
Dobro se zavedamo, da so "napake del človeške narave", zato nam bo preprosto fizično nemogoče ustvariti resnično varen sistem v vsem.
Strah pred zlorabo
Pravzaprav me ne skrbi nepredvidljivost posledic pri delu AI, ki jo razvijam s tako imenovanim nevroevolucijskim pristopom. Ustvarjam virtualna okolja in jih poseljujem z digitalnimi bitji, ki jim dajejo ukaze za možgane za reševanje problemov vse večje zapletenosti.
Sčasoma se učinkovitost reševanja težav s temi bitji povečuje in razvija. Tisti, ki opravljajo najboljše delo, so izbrani za reprodukcijo, na njihovi osnovi pa ustvarijo novo generacijo. Skozi generacije ta digitalna bitja razvijajo kognitivne sposobnosti.
Na primer, trenutno delamo prve korake pri razvoju strojev do stopnje izvajanja preprostih navigacijskih nalog, preprostih odločitev ali pomnjenja nekaj bitov informacij. Toda kmalu bomo videli razvoj strojev, ki lahko opravljajo bolj zapletene naloge in imajo veliko bolj učinkovito splošno raven inteligence. Naš končni cilj je ustvariti inteligenco na ravni ljudi.
V času te evolucije bomo poskušali najti in odpraviti vse napake in težave. Z vsako novo generacijo bodo stroji bolje obvladovali napake kot prejšnje. To bo povečalo možnosti, da bomo lahko v simulacijah prepoznali vse nepredvidljive posledice in jih odpravili, še preden jih bomo lahko realizirali v resničnem svetu.
Druga priložnost, ki jo ponuja evolucijski način razvoja, je, da umetno inteligenco podari z etiko. Verjetno so takšne etične in moralne lastnosti človeka, kot sta zanesljivost in altruizem, rezultat naše evolucije in dejavnik njegovega nadaljevanja.
Ustvarimo lahko zgrajeno okolje in omogočimo strojem, da izkažejo prijaznost, poštenost in empatijo. To bi lahko bil eden od načinov, kako zagotoviti, da bomo razvili bolj poslušne služabnike kot neusmiljeni roboti morilci. Kljub temu pa lahko nevroevolucija zmanjša raven nenamernih posledic v AI vedenju, vendar ne more preprečiti zlorabe umetne inteligence.
Kot znanstvenik se moram spoprijeti s svojo zavezanostjo resnici in poročati, kaj sem odkril s svojimi poskusi, ali so mi rezultati všeč ali ne. Moja naloga ni, da določim, kaj mi je všeč in kaj ne. Edino pomembno je, da lahko svoje delo javno objavim.
Strah pred napačnimi socialnimi prednostnimi nalogami
To, da si znanstvenik, ne pomeni izgubiti človečnosti. Ponovno se moram povezati s svojimi upi in strahovi na neki ravni. Kot moralno in politično motiviran posameznik moram upoštevati morebitne posledice svojega dela in njegove možne učinke na družbo.
Kot znanstveniki in kot predstavniki družbe še vedno nismo prišli do jasne predstave o tem, kaj točno želimo dobiti od AI in kaj bi to sčasoma moralo postati. To je seveda deloma posledica dejstva, da še vedno ne razumemo v celoti njegovega potenciala. Toda vseeno moramo jasno razumeti in se odločiti, kaj želimo dobiti od resnično napredne umetne inteligence.
Eno največjih področij, na katero so ljudje pozorni, ko govorijo o AI, je zaposlovanje. Roboti za nas že opravljajo zapletena fizična dela, kot so sestavljanje in varjenje delov karoserije skupaj. Toda nekega dne bo prišel dan, ko bodo roboti imeli nalogo opravljati kognitivne naloge, se pravi, da bodo imeli nalogo, kar je prej veljalo za izključno edinstveno sposobnost same osebe. Samovozeči avtomobili lahko nadomestijo taksiste; samovozeča letala ne bodo potrebovala pilotov.
Namesto zdravniške oskrbe v urgentnih sobah, napolnjenih z vedno utrujenim osebjem in zdravniki, bodo pacienti lahko opravljali preglede in se učili diagnoze s pomočjo strokovnih sistemov s takojšnjim dostopom do vsega medicinskega znanja. Kirurške operacije bodo opravili roboti, ki niso dovzetni za utrujenost, s popolnoma "usposobljeno roko".
Pravno svetovanje bo na voljo iz obsežnega pravnega okvira. Za naložbeno svetovanje se bomo obrnili na sisteme strokovnih napovedovanj na trgu. Morda bomo nekega dne vse človeško delo opravili stroji. Tudi moje delo je mogoče hitreje opraviti z uporabo velikega števila strojev, ki neusmiljeno raziskujejo, kako narediti stroje še pametnejše.
V resničnosti naše trenutne družbe avtomatizacija že prisili ljudi, da zapustijo svoje delo, zaradi česar so bogati lastniki takšnih avtomatiziranih strojev še bogatejši, ostali pa še revnejši. Vendar to ni znanstveni problem. To je politični in socialno-ekonomski problem, ki ga mora rešiti družba sama.
Moje raziskave tega ne bodo spremenile, vendar bodo moji politični temelji, skupaj s človeštvom, lahko privedli do okoliščin, v katerih lahko AI postane izredno koristna funkcija, namesto da bi povečeval razkorak med enim odstotkom svetovne elite in ostalimi od nas.
Strah pred katastrofalnim scenarijem
Našli smo se do zadnjega strahu, ki so nam ga naložili noro HAL 9000, Terminator in katera koli druga zlobna nadinteligenca. Če se AI še naprej razvija, dokler ne preseže človeške inteligence, ali bi umetni nadinteligentni sistem (ali zbirka takšnih sistemov) človek obravnaval kot neuporaben material? Kako lahko upravičimo svoj obstoj pred superinteligenco, ki je sposobna narediti in ustvariti tisto, česar ne more nihče drug? Se bomo lahko izognili usodi, da bi nas s stroji, ki smo jim pomagali pri ustvarjanju, zbrisali z zemlje Zemlje?
Zato se bo najpomembnejše vprašanje v takšnih okoliščinah slišalo takole: zakaj nas bo potrebovala umetna nadinteligenca?
Če bi se zgodila takšna situacija, bi verjetno rekel, da sem dober človek, ki je celo prispeval k nastanku te superinteligence, s katero se soočam zdaj. Apeliral bi na njegovo sočutje in empatijo, tako da me bo nadčloveška inteligenca pustila, tako sočutnega in empatičnega, živega. Dodal bi še, da ima raznolikost vrst sama po sebi vrednost in vesolje je tako veliko, da je obstoj človeške vrste v njej pravzaprav precej nepomemben.
Toda ne morem govoriti za vse človeštvo, zato bom težko našel veljaven argument za vse nas. Samo, ko gledam vse nas, resnično vidim, da smo naredili veliko in delamo veliko narobe. Sovraštvo drug do drugega kraljuje na svetu. Med seboj gremo v vojno. Hrano, znanje in zdravstveno nego distribuiramo nepošteno. Onesnažimo planet. Na tem svetu je seveda veliko dobrih stvari, toda če pogledate vse slabe stvari, ki smo jih ustvarili in še naprej ustvarjamo, bo zelo težko najti argument, ki bi podpiral naš nadaljnji obstoj.
Na srečo nam še ni treba opravičevati svojega obstoja. Še imamo čas. Od 50 do 250 let, odvisno od tega, kako hitro se razvija umetna inteligenca. Kot vrsta se lahko zberemo in najdemo dober odgovor na vprašanje, zakaj nas nadčloveška inteligenca ne bi smela izbrisati z obraza planeta.
To vprašanje bo zelo težko rešiti. Konec koncev, reči, da podpiramo raznolikost in etnokulturne razlike, in to narediti, so povsem različne stvari. Kako reči, da želimo rešiti planet in se uspešno soočiti z njim.
Vsi, pa naj gre za vsakega posameznika ali družbo kot celoto, se moramo pripraviti na katastrofalni scenarij in v tem času biti pripravljeni pokazati in dokazati, zakaj naj bi naše stvaritve dopuščale naš obstoj. Lahko pa preprosto še naprej slepo verjamemo, da je tak razvoj dogodkov nemogoč, in preprosto nehamo govoriti o tej temi.
Vendar ne glede na to, kakšno fizično nevarnost nam lahko predstavlja superinteligenca, ne smemo pozabiti, da bo predstavljala tudi politično in gospodarsko nevarnost. Če ne bomo našli načina, kako izboljšati življenjski standard, bomo na koncu preprosto podpirali kapitalizem z delavcem z umetno inteligenco, ki bo služil le izbranim, ki imajo vsa sredstva za proizvodnjo.
Ta članek je na theconversation.com prvotno objavil Arend Hintze, izredni profesor na oddelku za integrativno biologijo, računalništvo in inženiring, Michigan State University.
Nikolaj Hizhnyak