Če ste že kdaj igrali igranja vlog - bodisi na spletu bodisi na staromodnem dvorišču - veste, kako enostavno se je navezati na svoj avatar, torej se navaditi na vlogo »kozaškega roparja«. Dobesedno čutite bolečino, ko lik pretepa trol, praži zmaj ali ga ubije šaman. Ameriški sociolog (in navdušen igralec) William Sims Bainbridge je to razmerje še bolj razširil tako, da je ustvaril virtualne predstavitve 17 umrlih družinskih članov. V eseju o spletnih avatarjih iz leta 2013 predvideva čas, ko lahko svojo osebnost naložimo v umetno inteligentno simulacijo nas samih, ki lahko deluje neodvisno od nas in ostane tudi potem, ko umremo.
Kakšno odgovornost lahko postavimo na te simulirane ljudi? Čeprav smo sumljivi na nasilne računalniške igre, nihče resno ne misli, da bi umor spodkopal virtualnega napadalca. Vendar ni več nesmiselno predstavljati, da bodo nekoč modelirani ljudje obstajali in imeli tudi neko stopnjo samostojnosti in zavesti. Mnogi filozofi verjamejo, da uma, kot je naš, ni treba hraniti v mreži nevronov v naših možganih, ampak bi lahko obstajali v različnih vrstah materialnih sistemov. Če so pravilni, ni razloga, da bi verjeli, zakaj dovolj zmogljivi računalniki ne morejo shraniti zavesti v svojih čipih.
Ali boste ubili digitalno muho?
Danes mnogi moralni filozofi poskušajo razumeti etiko spreminjanja človeške populacije in postavljajo taka vprašanja: Koliko stane človeško življenje? Kakšno življenje bi si morali prizadevati za oblikovanje? Koliko vrednosti bi morali vlagati v človeško raznolikost? Toda ko gre za etiko ravnanja z modeliranimi entitetami, ni povsem jasno, ali bi se morali zanašati na isto logiko in intuicijo, ki jo uporabljamo v svojem svetu mesa in krvi. Globoko v duši se nam zdi narobe ubiti psa ali celo muho. Toda ali bi onesposobitev muhe - ali človeških možganskih modelov - ubila? Ko "življenje" pridobi nove digitalne oblike, naša lastna izkušnja ne more več delovati kot zanesljiv moralni spremljevalec.
Adrian Kent, teoretični fizik z univerze v Cambridgeu, se je odločil raziskati to vrzel v moralnem sklepanju. Recimo, da smo se naučili posnemati človeško zavest na računalniku poceni in preprosto, piše v enem od člankov. Temu virtualnemu bitju želimo omogočiti bogato in koristno okolje za komunikacijo - življenje, ki ga je vredno živeti. Morda bi to lahko storili s pravimi ljudmi tako, da bi podrobno skenirali njihove možgane in jih kopirali v računalnik. Lahko si predstavljamo, kako takšna tehnologija "reši" ljudi pred smrtno boleznijo; nekateri transhumanisti to vidijo kot pot do nesmrtne zavesti.
Seveda, to bi lahko bile vse sanje o cevi - a predpostavimo nasprotno. Zdaj pa si poglejmo niz utilitarnih moralnih načel, ki jih je Jeremy Bentham uvedel v poznem 18. stoletju in jih pozneje izpopolnil John Stuart Mill. Glede na vse stvari, je dejal Bentham, si moramo prizadevati, da bi čim večjemu številu prinesli največ sreče (ali "uporabnosti"). Ali po Millovih besedah "so dejanja upravičena v sorazmerju s tem, kako srečna so, in niso upravičena, če vodijo k pomanjkanju sreče."
Načela dobrega vedenja imajo številni kritiki. Kako lahko na primer merimo ali primerjamo vrste sreče - tehtanje vrednosti babičine ljubezni na primer na istih lestvicah z občudovanjem virtuoznega koncertnega pianista? "Tudi če želite utilitarizem vzeti resno, ne veste, katere lastnosti, ki jih vnesete v svoje izračune, so res pomembne," pravi Ken. Vendar večina sistemov prepričanj danes privzeto sprejema, da je moralni kompas, ki kaže na večjo srečo, očitno boljši pred tistim, ki gleda stran od njega.
Promocijski video:
Če izhajamo iz utilitarnih motivov, lahko po Kentovem scenariju verjamemo, da moramo premikati naprej in množiti svoja modelirana ali simulirana bitja - poimenujemo jih sims - brez omejitev. V resničnem svetu ima takšna nenadzorovana reprodukcija očitne slabosti. Ljudje bodo trpeli, čustveno in ekonomsko, z veliko družino; prenaseljenost že pritiska na svetovne vire itd. Toda v virtualnem svetu takšnih omejitev morda ni. Utopijo lahko ustvarite s skoraj neomejenimi viri. Zakaj potem ne morete ustvariti čim več svetov in jih napolniti z veselim Simom?
Naša intuicija predlaga odgovor: ampak zakaj? Morda zavestni sim preprosto ne bo imel enake notranje vrednosti kot oseba mesa in krvi? To stališče je izrazil Michael Medery, filozof uma in virtualne resničnosti na univerzi Tulane v New Orleansu, in meni, da bi ga morali jemati resno.
Nekateri filozofi verjamejo, da smo tudi mi lahko podobna simulirana bitja. Te možnosti preprosto ne moremo izključiti, vendar kljub temu menimo, da so ta vprašanja smiselna. Tako bi tudi domnevali, da imajo Sim-ji pravico postavljati vprašanja.
Kent spet postavlja vprašanje: kaj bi bilo pravilneje - ustvariti populacijo identičnih bitij ali popolnoma drugačnih? Očitno bi bilo učinkoviteje ustvariti identična bitja - dovolj informacij o enem, da bi ustvarili N takšnih. Toda naši instinkti nam govorijo, da ima raznolikost pomen in vrednost. In zakaj, sprašujem se, ali ni nobenega razloga, da verjamem, da bo N različnih posameznikov srečnejših od N enakih.
Kentov pristop je, da je v različnih življenjih raje več kopij istega. "Ne morem se znebiti misli, da bo vesolje z milijardo neodvisnih enakih emulacij Alice manj zanimivo in manj kakovostno kot vesolje z milijardo različnih posameznikov," pravi. Temu pojmu pravi replikacija inferiornost.
Če pomislimo na kozmos, naseljen z milijardami Alice, ali je res vredno govoriti o enem življenju, pomnoženem večkrat, ali govorimo o enem življenju, razširjenem po številnih svetovih. Iz tega lahko sledi, da bo veliko Alice v identičnem okolju imelo vrednosti ne več kot eno. Ta scenarij imenuje neuporabnost podvajanja. "Nagnjen sem k temu mnenju," pravi Kent in kljub temu priznava, da v obrambi ne more najti neizpodbitnega argumenta.
Kentov miselni eksperiment se dotika več starih skrivnosti moralne filozofije, ki niso bile nikoli razrešene. Angleški filozof Derek Parfit, ki je umrl lani, jih je nagovoril v svojem monumentalnem delu o osebnosti in sebi, Razlogi in osebnosti (1984). Parfit je razmišljal o vprašanjih, kot je, koliko ljudi bi sploh moralo biti, in ali bo moralno vedno, ko bomo dobili priložnost, da bi v vrvež sveta dodali življenje, vredno življenja.
Tudi če sprejmete utilitaristično stališče, obstaja problem najti največjo srečo za največje število: dvojni kriteriji ustvarjajo dvoumnost. Predstavljajte si na primer, da imamo nadzor nad tem, koliko ljudi živi v svetu s končnimi sredstvi. Človek bi si mislil, da bi moralo obstajati optimalno število ljudi, ki bodo načeloma najbolje izkoristili vire in tako zagotovili srečo in blaginjo vsem. Toda ali ne bi bilo prostora v takšni utopiji za drugo osebo? Ali ne bi bilo sprejemljivo, da bi vsake toliko zmanjšali svojo srečo in si zagotovili še eno srečno življenje?
Težava je v tem, da ta postopek nima konca. Ko se število povečuje, lahko dodana sreča v novih življenjih odtehta stroške tistih, ki so že živi. Konec koncev, pravi Parfit, pridete do "gnusnega zaključka": scenarija, v katerem bi bil najboljši izid zabuhla populacija ljudi, ki so brezupno nesrečni, a boljši od tega, da sploh nimajo življenja. Skupaj njihovi majhni delčki sreče pomenijo več kot vsota majhnega števila resnično srečnih ljudi. "Težko sprejemam ta sklep," je zapisal Parfit, toda ali lahko ta pristop upravičimo? Kent ne ve. "Ne vem, ali je mogoče sprejeti neko uravnoteženo odločitev o gnusnem sklepanju," pravi.
V bistvu tega vprašanja je tisto, kar je Parfit poimenoval "problem ne-identitete": Kako lahko racionalno razpravljamo o vprašanjih zaskrbljenih posameznikov, če je njihov obstoj odvisen od izbire, ki jo sprejmemo (kot je iskanje mesta za "še enega")? Tehtanje prednosti in slabosti, ki lahko vplivajo na posameznika, odvisno od odločitev, ki jih sprejmemo, načeloma ni tako težko. A glede na možnost, da ta lik morda nikoli ni obstajal, ne vemo več, kako izračunati. V primerjavi z ničlo ali ničrom bo karkoli zmaga, zato so tudi najhujši scenariji obstoja lahko moralno upravičeni.
Obstaja še en zelo čuden scenarij v tej utilitaristični igri prebivalstva. Kaj pa, če bi obstajali ljudje s tako veliko potrebo po sreči, da bi od drugih zahtevali več, kot bi si jih lahko privoščili? Ameriški filozof Robert Rozick je to stvaritev označil za "utilitarno pošast" in jo kritiziral v svoji knjigi Anarhija, država in utopija (1974). Kot je dejal Nozik, bo ta slika "vse od nas morala žrtvovati za pošast, da bi povečali našo splošno uporabnost." Večina Parfit-ove knjige je bil poskus - na koncu neuspešen -, da bi se izognil tako grozovitim sklepom kot utilitarni pošasti.
Zdaj se vrnimo k Kentovim virtualnim svetom, polnim Simsov, in njegovemu načelu nepopolne replikacije - ko je določeno število različnih življenj vredno več kot enako število enakih. Morda nam bo to omogočilo, da se izognemo Parfitovemu gnusnemu zaključku. Kljub temu, kar je Leo Tolstoj povedal o neenakosti nesrečnih družin na začetku Ane Karenine (1878), se zdi, da bo ogromno število nesrečnih življenj v njihovi turobni žalosti skoraj enako. Posledično jih ne bo mogoče pobrati in povečati celotne sreče kap po kap.
Toda na enak način manjvrednost podvajanja odobrava utilitaristično pošast - po definiciji mora biti edinstvena in zato bolj »vredna« v primerjavi z neizogibno podobnostjo življenj, ki jo hranijo. Tudi ta odločitev nas ne zadovoljuje. "Bilo bi lepo, če bi ljudje nekako razmišljali o teh vprašanjih," priznava Kent. "Nekako me zmedejo."
Za ameriškega libertarnega ekonomista Robina Hansona, profesorja ekonomije na univerzi George Mason v Virginiji, ti razmisleki niso toliko miselni poskusi kot napovedi prihodnosti. Njegova knjiga "Doba Ema" predstavlja družbo, v kateri vsi ljudje naložijo svojo zavest v računalnik, da bi živeli svoje življenje v obliki "emulacij" (ne simsov, ampak emas). "Milijarde takšnih prenosov bi lahko živele in delovale v eni visoki zgradbi in prostora bi bilo za vse," piše.
Hanson je podrobno preučil, kako lahko deluje takšno gospodarstvo. Ems je lahko poljubnih velikosti - nekateri bodo zelo majhni - in čas lahko za njih gre drugače kot v primerjavi s človekom. Prisoten bo strog nadzor in majhna plača, vendar se lahko ems tega trpljenja znebite tako, da izberete življenje brez dela. (Hanson verjame, da že lahko živimo v takem svetu.)
Ta scenarij omogoča možnost podvajanja samega sebe, saj je um že prenesen v računalnik, zato bo izdelava kopij precej preprosta. Hanson pravi, da je problem identitete v tem primeru zamegljen: dvojniki so sprva "ista oseba", postopoma pa se njihova identiteta razhaja, ko začnejo živeti ločeno.
Hanson predlaga, da podvajanje ljudi ne bo le mogoče, ampak zaželeno. V prihajajoči dobi emusa se bodo ljudje s posebno dragocenimi miselnimi sposobnostmi večkrat »naložili«. In na splošno bodo ljudje tako ali tako želeli narediti več kopij sebe kot obliko zavarovanja. "Mogoče raje odpuščajo v svojem lastnem izvajanju, da se prepričajo, da bodo lahko preživeli nepričakovane katastrofe," pravi Hanson.
Vendar ne misli, da bi raje imeli Kentov scenarij enakih življenj. Ems “ne bo imel posebne vrednosti, če bi živeli isto življenje v različnih obdobjih in na različnih krajih. Vrednost bodo vlagali v več kopij, ker lahko te kopije delajo ali komunicirajo z drugimi. Toda za takšno delo in odnos bo potrebno, da je vsak izvod vzročno neodvisen in da se njihove zgodbe prepletajo na podlagi nalog ali kot partnerja."
Vsekakor se bodo morali spoprijeti z moralnimi težavami, ki jih še ne moremo preceniti. "Ne verjamem, da je morala, ki jo imamo ljudje, dovolj splošna ali zanesljiva, da lahko daje zaupljive odgovore na take situacije, ki so tako daleč odmaknjene od" izkušenj "naših prednikov," pravi Hanson. "Predvidevam, da bo imel emus o takšnih stvareh veliko različnih nasprotujočih si mnenj."
Ems, sims in naša virtualna prihodnost
Zdaj se vse to morda sliši zelo čudno, kot apokrifni srednjeveški govori o angelih, ki plešejo na prstih. Ali bomo kdaj lahko ustvarili navidezno življenje, ki bo sploh podobno resničnemu življenju? "Mislim, da nihče ne more samozavestno reči, ali je to mogoče ali ne," pravi Kent, deloma tudi zato, ker "nimamo dobrega znanstvenega razumevanja zavesti."
Kljub temu tehnologija napreduje in ta vprašanja ostajajo odprta. Švedski filozof Nick Bostrom z Inštituta za prihodnost človeka je trdil, da bo računalniška moč, ki je na voljo "posthumni" civilizaciji, lahko simulirala bitja, ki živijo v svetu, in ga čutila kot resničnega, kot smo mi sami. (Bostrom tudi meni, da bi lahko živeli v takšni simulaciji.) Toda spraševanje, kako lahko poseljujemo takšne svetove, predstavlja "resnično dilemo za programerje, znanstvenike in zakonodajalce prihodnosti, čeprav ne tako oddaljene," pravi Kent.
Kentov scenarij lahko že ima posledice v resničnem svetu. Argumenti za maksimiranje uporabnosti in problem neidentičnosti nastanejo v razpravah o spodbujanju in preprečevanju človekovega spočetja. Kdaj naj zavrnete zanositev v primeru tveganja, na primer pri razvoju nepravilnosti pri otroku? Nobena od novih metod ne zagotavlja popolne varnosti in nikoli ne zagotavlja, IVF pa nikoli ne bi bil opravljen, če bi bil to pogoj. Takšna tehnika naj bi dosegla določen prag tveganja. Toda utilitarni pristop izpodbija to idejo.
Kaj pa, če bi imela nova metoda podprtega razmnoževanja zmerno tveganje za nastanek majhnih napak pri rojstvu, na primer rojstne znamke? (To je resničen argument. Zgodba Nathaniela Hawthorna iz leta 1843 govori o alkimistu, ki je s smrtnimi posledicami poskušal odstraniti znamko s svoje žene, navajajo ameriški svet za bioetiko leta 2002). Težko je reči, da bodo ljudje, označeni s takšno točko, slabši od drugih, zato jih metoda ne bi smela upoštevati. Toda kje je treba potegniti črto? Kdaj je porodna napaka bolje, da je sploh ne izvajamo?
Nekateri so to dilemo omenili v obrambi kloniranja ljudi. Bodo nevarnosti, kot so družbena stigma ali izkrivljeni starševski motivi in pričakovanja, odtehtale prednosti dajanja življenja. Kdo smo, da se odločimo za kloniranega človeka? Kdo bomo, če se odločimo za to, preden človek sploh obstaja?
Zdi se, da tovrstno sklepanje zahteva, da sprejemamo božje odločitve. Toda feministični opazovalec bi lahko pomislil, da smo žrtev različice Frankensteinove fantazije. Z drugimi besedami, ali to ni kup moških, ki sanjajo, da bi končno začeli izdelovati ljudi, ko ženske to počnejo že stoletja? Občutek novosti, ki vodi do vseh teh polemik, ima patriarhalni okus.
Kljub temu perspektiva virtualne zavesti sproža nekaj zelo svežih in očarljivih etičnih vprašanj - ki nas po Kentovem mnenju vodijo v izziv intuitivni vrednosti, ki jo postavljamo v življenju in demografiji. Izredno težko je videti močan argument, da bo določeno število različnih življenj moralno boljše kot enako število istih. Zakaj tako mislimo? Kako se lahko znebimo predsodkov?
Lahko bi rekli, da zaznana homogenost v človeški populaciji zmanjšuje zmožnost empatije in etičnega sklepanja. "Brezlična" množica, ki ji posameznik nasprotuje, je znani kliše, ki vzbuja občutek junaštva. Vendar to ni nujno pravilno.
Mogoče imamo evolucijsko averzijo do istih posameznikov, še posebej, če upoštevate, da genetska raznolikost populacije zagotavlja njeno preživetje? Samo pomislite na filme o identičnih dvojčkih ali klonih - to ni vedno videti dobro. Izgleda celo zlovešče. Leta 1919 je Sigmund Freud ta občutek povezal z idejo o zlobnem dvojniku (doppelganger). In če je to še vedno razumljivo v primeru identičnih dvojčkov, bo sto "identičnih" znakov videti grozno.
Ne zdi se, da se bomo kmalu v resničnem ali virtualnem svetu srečali z vojno dvojnikov. Vrednost miselnih eksperimentov pa je v tem, da ti dajo nov način, kako smiselno postavljati svetovna vprašanja. Z zamišljanjem etike našega odnosa s Simsom odkrijemo pretresljivo ali neobstoječo logiko, ki jo instinktivno uporabljamo za tehtanje moralne vrednosti lastnega življenja.
Ilya Khel
