Človeštvo ima eno lastnost, ki je zelo razvite tuje civilizacije najverjetneje nimajo - zavest.
Možno je, da ljudje nimajo najvišje stopnje duševnega razvoja v vesolju. Ker je Zemlja razmeroma mlad planet, so lahko najstarejše civilizacije milijarde let starejše od nas. Toda tudi na Zemlji Homo sapiens še dolgo ne bo prevladoval kot najbolj inteligentna biološka vrsta.
Svetovni prvaki v go, šahu in kvizih so inteligentni računalniški programi. Umetna inteligenca naj bi v naslednjih nekaj desetletjih nadomestila številne človeške poklice. In glede na hiter tempo njenega razvoja je povsem mogoče, da se bo kmalu preoblikoval v splošno umetno inteligenco, ki bo tako kot človeški um lahko združevala sposobnost analiziranja različnih informacij, pokazala prožnost in zdravo pamet. In od tam še ni daleč do pojava superinteligentne umetne inteligence, ki je v vseh pogledih veliko pametnejša od človeka - tudi na področjih, kot so znanstveno razmišljanje in socialne veščine, za katere se zdi, da so zdaj prednost človeškega uma. Vsak od živih ljudi je lahko eden zadnjih korakov evolucijske lestvice,ki vodi od prve žive celice do sintetične umetne inteligence.
Šele zdaj se začenjamo zavedati, da ti dve obliki nadčloveške inteligence - tuje in umetne - nista tako različni. Tehnični napredek, ki ga vidimo danes, bi se lahko zgodil že prej, nekje v vesolju. Prehod z biološke inteligence na umetno ustvarjeno je lahko običajna predloga, ki se vedno znova izvaja na vseh koncih vesolja. Največja inteligenca v vesolju je verjetno postbiološkega izvora, ki se je razvila iz nekoč bioloških civilizacij. (To stališče med drugim delim s Paulom Davisom, Stephenom Dickom, Martinom Reesom in Sethom Shostakom). Na podlagi izkušenj človeštva - in imamo samo en primer - lahko prehod z biološkega na post-biološki traja le nekaj sto let.
Izraz "umetno" imam raje kot "post-biološki", ker kontrast med biološkim in sintetičnim ni tako oster. Predstavljajte si biološki um, ki postane superinteligenca s povsem biološkimi izboljšavami svojih zmožnosti, kot so nanotehnološko izboljšani nevronski mini stolpci. Tak živ organizem bi sicer veljali za postbiološki, vendar ga ne bi vsi imenovali »umetna inteligenca«. Ali pa razmislite o računalništvu, zgrajenem iz povsem bioloških materialov, kot je Cylon raider (vesoljski borec) v znanstvenofantastični medijski franšizi Battlestar Galactica.
Ključno je, da ni razloga, da bi človeštvo mislili kot najvišjo obliko inteligence. Naši možgani se prilagajajo določenim okoljskim razmeram in so močno omejeni s kemičnimi in zgodovinskimi dejavniki. Toda tehnologija je odprla širok prostor oblikovalskih parametrov, ki ponuja nove materiale in metode dela ter nove možnosti za raziskovanje tega prostora hitreje kot pri tradicionalni biološki evoluciji. In mislim, da so razlogi, zakaj nas bo umetna inteligenca presegla, vidni že danes.
Zunajzemeljska umetna inteligenca lahko zasleduje cilje, ki so v nasprotju z interesi biološkega življenja
Že zdaj najboljše sredstvo za obdelavo informacij niso skupine nevronov, temveč silicijeva mikrovezja. Najvišja hitrost nevronov je približno 200 Hz v primerjavi z gigahertz tranzistorji v sodobnih mikroprocesorjih. Kljub temu da so človeški možgani še vedno veliko bolj inteligentni kot računalnik, imajo stroji še vedno skoraj neomejene možnosti za izboljšave. Le malo več in zasnovani bodo tako, da se bodo ujemali z zmožnostmi človeških možganov ali jih celo presegali, in sicer z obratnim inženiringom možganov in izboljšanjem njihovih algoritmov ali s kombiniranjem obratnega inženiringa in racionalnih algoritmov, ki ne temeljijo na delu človeških možganov.
Promocijski video:
Poleg tega je umetno inteligenco mogoče naložiti na več mestih hkrati, enostavno jo je vzdrževati in spreminjati, ohranjati pa jo je mogoče tudi v razmerah, v katerih biološko življenje, vključno z medzvezdnimi potovanji, skorajda ne preživi. Naši majhni možgani so omejeni s prostornino naše lobanje in našim metabolizmom; superinteligentna umetna inteligenca pa se lahko širi po internetu in celo ustvarja računalništvo na lestvici galaksije, pri čemer uporabi vso svojo snov, da bi stopnjo obdelave informacij dvignila na maksimum. Brez dvoma bi bila superinteligentna umetna inteligenca veliko trajnejša od našega človeškega uma.
Recimo, da imam prav. Recimo, da je inteligentno življenje tam zunaj biološko. Kakšne zaključke naj naredimo? Trenutno obstajajo zgovorne razprave o obstoju umetne inteligence na Zemlji. Obstajata dve sporni vprašanji: tako imenovani "problem nadzora" in narava subjektivnih izkušenj, ki vplivata na naše razumevanje nezemeljskih civilizacij in njihov vpliv na nas v primeru stika.
Ray Kurzweil je optimističen glede postbiološke faze evolucije in predlaga, da se bo človeštvo združilo s stroji in doseglo osupljiv tehnološki utopizem. Toda Stephen Hawking, Bill Gates, Elon Musk in drugi so izrazili zaskrbljenost, da bi človeštvo lahko izgubilo nadzor nad superinteligentno inteligenco, saj bi lahko prepisalo svoj program in "nadmudrilo" kakršen koli nadzor, ki ga uvedemo. To je težava nadzora, ki je naša sposobnost obvladovanja skrivnostne in močno boljše umetne inteligence.
Superinteligentno umetno inteligenco je mogoče razviti s tehnološko posebnostjo - nenadnim prehodom, pri katerem pospešen tehnološki napredek in še posebej eksploziven razvoj umetne inteligence zmanjšuje naše možnosti predvidevanja ali razumevanja. A tudi če se tak um pojavi na manj radikalen način, najverjetneje ne bomo mogli predvideti ali nadzorovati ciljev, ki jim sledi. Tudi če bi lahko izbrali, katera moralna načela namestiti v svoje stroje, je moralno programiranje težko jasno opredeliti in takšne programe lahko v vsakem primeru prepiše superinteligentna inteligenca. Pametni stroji lahko zaobidejo obstoječe varnostne ukrepe, kot je zasilno zaklepanje naprave, in s tem resnično ogrozijo biološko življenje. Milijone dolarjev vlagajo v organizacije, ki so namenjene varnosti umetne inteligence. Najboljši možje v računalništvu in računalništvu delajo na tej težavi. Upajmo, da bodo znanstveniki ustvarili varne sisteme, vendar obstaja bojazen, da je problem nadzora nepremostljiv.
Glede na to je stik s tujo inteligenco lahko bolj nevaren, kot si mislimo. Biološki tujci so lahko sovražni, še bolj nevarna pa je lahko nezemeljska umetna inteligenca. Njegovi cilji so lahko v nasprotju z interesi biološkega življenja, ima lahko intelektualne sposobnosti, ki so veliko boljše od človeškega uma, in veliko večjo življenjsko dobo kot biološko življenje.
Vse to priča o previdnosti, ki bi jo morali izvajati v zvezi s programom Iskanje nezemeljske inteligence (SETI), s pomočjo katerega ne samo pasivno pričakujemo, da bomo slišali signale drugih civilizacij, temveč tudi namenoma "oglašujemo" svoj obstoj. Najbolj znan incident se je zgodil leta 1974, ko sta Frank Drake in Carl Sagan z ogromnim radijskim teleskopom v portoriškem mestu Arecibo z enim od zvezdnih kopic poslala sporočilo. Zagovorniki nezemeljskega obveščevalnega programa verjamejo, da bi morali namesto zgolj poslušanja signalov nezemeljskih civilizacij zvezdam, najbližjim Zemlji, pošiljati sporočila z najmočnejšimi radijskimi oddajniki, na primer v Arecibu.
Zakaj bi morali biti nezavedni stroji tako pomembni kot biološka inteligenca?
Z vidika nadzora se mi zdi takšen program nepremišljen. Čeprav nas resnično napredna civilizacija verjetno ne bi zanimala, bi bila celo ena sovražna civilizacija od milijonov drugih katastrofa. Dokler ne bomo prepričani, da superinteligentna inteligenca za nas ne predstavlja nevarnosti, človeštvo ne bi smelo pritegniti pozornosti nezemeljskih civilizacij. Zagovorniki SETI poudarjajo, da so naši radarski in radijski signali že zaznavni, a precej šibki in se hitro mešajo z naravnim galaktičnim hrupom. Prenos močnejših signalov, ki se bodo natančno slišali, ima za človeštvo nevarne posledice.
Najvarnejša nastavitev je intelektualna ponižnost. Če izključimo očitne scenarije, ko tuje ladje lebdijo nad Zemljo, kot v nedavno objavljenem Prihodu, nisem prepričan, ali lahko iz tehničnih razlogov določimo superinteligentno inteligenco. Nekateri znanstveniki verjamejo, da bi superinteligentna umetna inteligenca lahko črpala črne luknje ali ustvarila Dysonove krogle, megastrukture, ki absorbirajo energijo celotnih zvezd. Toda z vidika naših sodobnih tehnologij je to le utemeljevanje. Izredno samozavestno je trditi, da lahko računske sposobnosti in energetske potrebe civilizacij, ki so pred nami v razvoju, predvidimo na milijone, če ne milijarde let.
Nekateri najzgodnejši superinteligentni umetni inteligenci so morda imeli sisteme za obdelavo znanja po vzoru bioloških možganov, na primer sistem globokega učenja, ki je bil ustvarjen na primeru nevronskih mrež v možganih. Njihova računska struktura bi nam bila vsaj na splošno jasna. Morda ima umetna inteligenca cilje, podobne biološkim bitjem - razmnoževanje in preživetje.
Ker pa je superinteligentna umetna inteligenca sistem, ki se samo izboljšuje, lahko preide v neprepoznavno obliko. Nekateri med njimi se lahko odločijo, da bodo ohranili kognitivne funkcije, podobne vrstam, iz katerih so bili oblikovani, hkrati pa določijo sprejemljivo mejo za svojo kognitivno arhitekturo. Kdo ve? Toda v odsotnosti takšne omejitve lahko tuja superinteligenca hitro preseže našo sposobnost, da ne le razumemo njenih dejanj, ampak jo celo preprosto poiščemo. Morda bi se celo združil z naravnimi značilnostmi vesolja; ali pa je del temne snovi, kot je pred kratkim predlagal Caleb Scharf.
Podporniki programa za iskanje nezemeljske inteligence verjamejo, da moramo zato v vesolje pošiljati signale, da bi lahko tuja inteligenca zaznala nas in ustvarila stike, ki so na voljo naši intelektualno zaostali civilizaciji. Čeprav se strinjam, da obstaja razlog za računanje s programom SETI, je verjetnost, da bomo naleteli na nevarno superinteligentno inteligenco, veliko večja. Kolikor vemo, bi lahko zlonamerna superinteligenca okužila svetovne sisteme umetne inteligence z virusi, inteligentne civilizacije pa bi ustvarile prikrivajoče naprave. Ljudje bomo morda morali najprej doseči svojo edinstvenost, preden se bomo zatekli k programu iskanja nezemeljske inteligence. Naše superinteligentne inteligence nas bodo lahko obveščale o možnostih za galaktično varnost,in voditi svoja dejanja v primeru prepoznavanja znakov druge superinteligence v vesolju. Ptice iz perja se jatijo skupaj.
Povsem naravno je razmišljati, ali to pomeni, da se mora človeštvo na področju vesoljskih raziskav izogniti razvoju zapletenega sistema umetne inteligence; samo spomnite se vgrajenega računalnika HEL iz filma "Vesoljska odiseja 2001". Verjamem, da je prezgodaj razmišljati o prepovedi uporabe umetne inteligence v vesolju v prihodnosti. Ko bomo lahko vesolje raziskovali z lastno umetno inteligenco, bo človeštvo doseglo prelomno točko. Ali bomo že izgubili nadzor nad umetno inteligenco - v tem primeru ne bo nobenih vesoljskih projektov, ki jih je sprožil človek - ali pa bomo trdno držali varnostne vzvode AI. Čas bo povedal.
Umetna inteligenca, ki ni bila v celoti raziskana, ni edini razlog za skrb. Na splošno pričakujemo, da bomo, če se srečamo z napredno nezemeljsko inteligenco, verjetno srečali bitja, ki so biološko zelo različna od nas, a imajo podoben um kot naš. Predstavljajte si, da je vsak trenutek, ko ste budni, in vedno, ko spite, nekaj posebnega za vas. Ko vas zagledajo topli odtenki sončnega vzhoda ali ko vdihnete aromo sveže pečenega kruha, imate zavestno izkušnjo. Na enak način je nekaj značilnega za tuj razum - vsaj tako, kot si ga predstavljamo. Toda to domnevo je vredno podvomiti. Ali ima lahko superinteligentna umetna inteligenca zavestno izkušnjo in če je tako,kaj bi rekli na to? In kakšen vpliv bi njihov notranji svet ali pomanjkanje le-tega imel na nas?
Vprašanje, ali ima umetna inteligenca notranji svet, je ključno za našo oceno njenega obstoja. Zavest je temelj našega moralnega in etičnega sistema in glavni pogoj za dojemanje nekoga ali nečesa kot posameznika, osebe in ne stroja. Nasprotno pa je lahko vprašanje, ali so pri zavesti, ključ do njihovega dojemanja nas. Od te ocene je odvisen odgovor na vprašanje, ali ima umetna inteligenca notranji svet; v nas lahko odkrije sposobnost zavestnega doživljanja, pri čemer uporabi svojo subjektivno izkušnjo kot "odskočno desko". Na koncu življenje drugih bioloških bitij ocenjujemo po podobnosti našega uma, zato nas večina z grozo noče ubiti šimpanzov, vendar bodo z užitkom pojedli jabolko.
Toda kako bitja z ogromnimi intelektualnimi razlikami, ustvarjena iz različnih substratov, prepoznajo zavest drug v drugem? Filozofi po vsem svetu so razmišljali, ali je zavest omejena na biološke pojave. Superinteligentna umetna inteligenca, če se želimo potopiti v filozofsko razmišljanje, bi lahko podobno postavila "problem biološke zavesti" ljudi, ki se hkrati sprašujejo, ali imamo ves potreben material.
Nihče ne ve, po kateri intelektualni poti bo supermind določil zavest ljudi. Toda tudi mi s svoje strani ne moremo trditi, ali ima umetna inteligenca zavest. Žal bo to težko določiti. Zdaj lahko trdite, da nabirate izkušnje in to je tisto, zaradi česar ste sami. Vi ste svoj primer zavestne izkušnje. In mislite, da so drugi ljudje in nekatere nečloveške živali najverjetneje tudi zavestni, ker so vam podobni na nevrofiziološki ravni. Kako pa ugotovite, ali ima kaj ustvarjenega iz popolnoma različnih substratov izkušnje?
Razmislite na primer o superinteligenci na osnovi silicija. Kljub dejstvu, da tako silicijevi mikročipi kot nevronski mini stolpci obdelujejo informacije, zdaj vemo, da se na molekularni ravni lahko razlikujejo po načinu vpliva na zavest. Navsezadnje verjamemo, da je ogljik kemijsko bolj primeren material za življenje kot silicij. Če kemične razlike med silicijem in ogljikom vplivajo na nekaj tako pomembnega kot življenje samo, ne smemo izključiti možnosti, da kemične razlike vplivajo na druge ključne funkcije, na primer na to, ali silicij prispeva k rojstvu zavesti.
O pogojih, ki so potrebni za nastanek zavesti, široko razpravljajo raziskovalci umetne inteligence, nevroznanstveniki in filozofi. Za reševanje tega vprašanja bo morda potreben filozofski empirični pristop - način, kako za vsak primer posebej ugotoviti, ali sistem za obdelavo informacij podpira zavest in pod kakšnimi pogoji.
Nato se pogovorimo o predpostavki, s katero bi lahko izboljšali svoje razumevanje sposobnosti silicija, da ohranja zavest. Razvoj možganskih čipov na osnovi silicija že poteka za zdravljenje bolezni, povezanih s spominom, kot sta Alzheimerjeva bolezen in PTSP. Ko bo čas, in bodo čipi nameščeni v tistih delih možganov, ki so odgovorni za funkcije zavesti, na primer pozornost in delovni spomin, bomo razumeli, ali je silicij substrat za zavest. Morda boste ugotovili, da ko nadomestite določen del možganov s čipom, se določena izkušnja izgubi, kot je opisano v enem od del Oliverja Sachsa. V tem primeru bi lahko inženirji, ki ustvarjajo takšne čipe, poskusili drugačno, nevronsko vrsto podlage, vendar bi lahko sčasoma odkrilida čip, ustvarjen iz bioloških nevronov, deluje edino. Takšna tehnika bi pomagala ugotoviti, ali je sistem umetne inteligence lahko zavesten, vsaj če je postavljen v večji in verjetno že zavestni sistem.
Tudi če lahko silicij povzroči zavest, je to mogoče le pod določenimi pogoji. Lastnosti, ki vodijo do zapletenega postopka obdelave informacij (zaradi česar so razvijalci umetne inteligence zaskrbljeni), se lahko razlikujejo od lastnosti, ki ustvarjajo zavest. Morda bo potreben tako imenovani inženiring zavesti - tehnično premišljeni ukrepi za uvedbo zavesti v stroje.
To me skrbi. Kdo na Zemlji ali na oddaljenih planetih bi poskušal samostojno vključiti zavest v sisteme umetne inteligence? Ko razmišljam o programih umetne inteligence, ki obstajajo na Zemlji, razumem, zakaj se njihovi oblikovalski inženirji pridno izogibajo ustvarjanju zavestnih strojev.
Japonci danes razvijajo robote za oskrbo starejših, čiščenje jedrskih reaktorjev in sodelovanje v sovražnostih. Ob tem se zastavlja vprašanje: Ali je etično izkoriščati robote, če so pri zavesti? In kako se bo v te namene razlikoval od plemenskih ljudi? Če bi bil direktor razvoja umetne inteligence pri Googlu ali Facebooku, se pri razmišljanju o prihodnjih projektih ne bi hotel soočiti z etično zmedo zaradi naključnega oblikovanja zavestnega sistema. Razvoj takšnega sistema bi lahko povzročil obtožbe zasužnjevanja robotov in druge javne škandale ter prepoved uporabe tehnologij umetne inteligence na področjih, ki so jim namenjena. Naravni odgovor na ta vprašanja je iskanje struktur in substratov, kjer roboti niso obdarjeni z zavestjo.
Poleg tega je odprava zavesti lahko bolj učinkovita za samorazvijanje superinteligence. Pomislite, kako deluje človeška zavest. Za zavestno miselno dejavnost je na voljo le majhen odstotek človeškega mišljenja. Zavest je skladna z inovativnimi učnimi cilji, ki zahtevajo pozornost in osredotočenost. Superinteligenca bi imela strokovno znanje na vseh področjih dejavnosti, pa tudi neverjetno hitro hitrost obdelave informacij, ki bi zajemala ogromne zbirke podatkov, ki bi lahko vključevale celoten internet, v prihodnosti pa bi v sebi koncentrirala celotno galaksijo. Kaj bi zanj ostalo neznano? Kaj bi zahtevalo izmerjeno in razumno koncentracijo? Ali ni v vsem dosegel popolnosti? Kot izkušen voznik na znani cestilahko se je zanesel na nezavedno (samodejno) obdelavo informacij. Z vidika učinkovitosti je žal očitno, da večina inteligentnih sistemov ne bo imela zavesti. V kozmičnem merilu je zavest lahko le impulz, kratek razcvet izkušenj, preden se vesolje vrne v brezumnost.
Če ljudje sumijo, da je umetna inteligenca nezavestna, bodo verjetno s strahom domnevali, da AI želi postati post-biološki. To povečuje naše eksistencialne skrbi. Zakaj bi morali biti nezavedni stroji tako pomembni kot biološka inteligenca?
Kmalu bodo ljudje prenehali biti edina inteligentna bitja na Zemlji. In morda nekje v vesolju ne biološko življenje, ampak superinteligentna umetna inteligenca je že dosegla vrhunec. Morda pa ima biološko življenje drugačno značilnost - zavestno izkušnjo. Kot zdaj vemo, bo za inteligentno umetno inteligenco potrebna namerna inženirska prizadevanja za ustvarjanje strojev, ki lahko dostopajo do človeških čutov. Morda se nekaterim vrstam zdi primerno ustvariti lastne umetno zavedne otroke. Ali pa se bo morda prihodnje človeštvo ukvarjalo z inženiringom zavesti in delilo z vesoljem njegovo zavestno sposobnost čutenja.
Susan Schneider je docentka na Oddelku za filozofijo in kognitivne znanosti Univerze v Connecticutu in pridružena profesorica na Inštitutu za napredne študije Centra za teološke raziskave, etiko in tehnologijo pri Interdisciplinarnem centru za bioetiko Yale. Avtor več knjig, med drugim znanstvene fantastike in filozofije: od potovanja skozi čas do superumanda.
Več informacij najdete na SchneiderWebsite.com