Švedski filozof Nick Bostrom, direktor Oxfordskega inštituta za prihodnost človeštva, je znan po svojem delu o eksistencialnih tveganjih, antropičnem načelu, etiki človeškega izboljšanja in grožnjah, ki jih predstavlja umetna inteligenca. Napisal je "Dokaz simulacije", v katerem namiguje, da lahko našo resničnost simuliramo na računalniku, ki ga je ustvarila neka napredna civilizacija. Junija je Nick Bostrom obiskal Rusijo, da bi sodeloval na mednarodnem kongresu kibernetske varnosti, ki ga je organizirala Sberbank ob podpori ANO Tsifrovaya Economy in Združenja ruskih bank. Posebni dopisnik "Lenta.ru" se je z Bostrom pogovarjal o vstaji strojev, svetovni vladi in transhumanizmu in tudi izvedel, zakaj živeti, če je "Matrica" naokoli.
Kakšen pomen ima futurologija? Če pogledamo napovedi futuristov preteklosti, se skoraj nobena njihova napoved ni izkazala za natančno
Bostrom: Če govorim o tej disciplini, mislim, da nima nobene koristi.
Nick Bostrom. Foto: Tom Pilston za Washington Post / Getty Images.
Da, vendar samo poskušate napovedati določene svetovne dogodke v prihodnosti
Kot futurologijo ne bi opisal tega, kar počnem jaz ali skupina raziskovalcev pod mojim vodstvom. Delamo določene stvari. Najprej razvijemo koncepte, da olajšamo iskanje vzorcev med dogodki v sedanjosti in njihovimi dolgoročnimi posledicami, da vidimo, kam nas lahko vodijo in ali se lahko kaj bistveno spremeni.
Prav tako poskušamo ugotoviti, katere spremembe bodo pripeljale do pozitivnega izida in katere do negativnih. Na primer, koncept eksistencialnih tveganj, ki vodi do dejstva, da bo inteligentno življenje izumrlo ali se zataknilo v nekakšnem radikalnem neoptimalnem stanju. V tem primeru je posledice eksistencialne katastrofe res zelo enostavno predvideti in so izredno pomembne z vidika določene vrednostne perspektive, kar pomeni, da je prihodnost zelo pomembna. Torej bo vse to pomagalo osredotočiti se na posledice določenih dejanj.
Promocijski video:
Toda nekatere raziskave, ki jih izvajamo, so veliko bolj specifične. Na primer, imamo skupino strokovnjakov, ki delajo na področju varnosti umetne inteligence (to je pododdelek računalništva), saj verjamemo, da bodo takšna spoznanja v prihodnosti zagotovo potrebna.
Bi se morali resnično bati stvari, kot so močna umetna inteligenca, padec nebesnega telesa, vdor tujih civilizacij? Se vam ne zdi, da ko oblasti, kot ste vi, Elon Musk ali Stephen Hawking govorijo o takšnih stvareh, odvrnejo družbo od bolj perečih težav?
Mislim, da ne bi smeli razmišljati samo o težavah, ki jih imamo zdaj. Morali bi razmišljati, kam gremo. Skrbeti morate za sedanjost in prihodnost. Velika napaka bi bila postavljanje utripačev in neznanje poti, ki vodijo do pečine.
Ali res mislite, da umetna inteligenca lahko predstavlja grožnjo človeštvu?
Seveda lahko grozi umetna inteligenca - ne tista, ki obstaja zdaj. Lahko si predstavljam določene scenarije, ko je to mogoče. Vendar jih vidim bolj kot portal, skozi katerega mora človeštvo prehoditi pot do boljše prihodnosti, kar pomeni neizogiben razvoj strojne nadinteligence. Vprašanje torej ni, ali je treba narediti ta korak ali ne. Samo ko bi to storili, bi morali biti čim bolj previdni in odgovorni. Poskrbeti moramo, da bomo prišli skozi portal in se ne strmoglavili ob zid.
Toda ali mora človeštvo iti po tem portalu, če se izkaže, da je močan AI boljši, pametnejši, hitrejši od človeka? Na splošno je zakaj v filozofskem smislu človek potreben, če bo močan AI predstavljal popolnejše orodje za samospoznavanje vesolja?
Mislim, da bi morali uporabljati stroje kot razširitev človeške volje, da bi nam lahko koristili. In možno je. Obstajajo pa tudi tveganja, ki nam lahko preprečijo doseganje tega cilja.
Poskušam vprašati, ali je smisel obstoja nepopolnega organskega življenja, če je stroj boljši? Zakaj bi človeštvo sploh obstajalo, potem ko bi razvilo močno AI?
Veste, vse je odvisno od alternativ - kakšen rezultat bo človeštvo in kakšne bodo te druge oblike življenja. Mislim, da če se izkaže, da je v evolucijskem smislu kaj bolj razumnega, bolj uspešnega kot človek, potem bo z vidika morale boljši kot človek. Predstavljam si različne izide, ki vodijo do znatno negativnih posledic: na primer izjemno razvita tehnološka civilizacija lahko izgubi univerzalne vrednote. Vsekakor ne verjamem, da so ljudje v svoji trenutni obliki idealna bitja, kjer se nikjer drugje ne razvija. In tu ne govorim samo o izboljšanju bioloških življenjskih oblik - predstavljamo si lahko pozitivne scenarije, v katerih bo človeštvo postalo povsem digitalna oblika življenja.
Torej mislite, da se lahko zavest prenese v avto?
Da, toda s prihodom dovolj zrele tehnologije ne danes.
In zato verjamete, da je zavest izključno procesi oštevilčevanja?
Da.
Kako se počutite glede del filozofov, ki postulirajo dualistično naravo zavesti - da je zavest subjektivni pojav, ki obstaja zunaj objektivnega sveta? Na primer, kot ga opisuje avstralski filozof David Chalmers
Sem privrženec teorije, da je zavest število. Seveda ne verjamem, da je tisto, zaradi česar smo zavestna bitja, subjektivna izkušnja, odvisno od tega, da smo preprosto sestavljeni iz ogljikovih atomov. Toda naši možgani proizvajajo določene postopke oštevilčevanja, ki jih načeloma lahko sprožimo v drugačnem okolju. In to je ključni postulat - pomemben ni material, ampak funkcionalni atributi samega postopka oštevilčenja.
In to, da svet dojemam skozi svojo zavest, je le skupek nevronskih impulzov v mojih možganih?
Točno tako. Verjamem, da vaši možgani vzbujajo vašo zavest. Vprašanje pa je, kaj še lahko ustvari vašo zavest. In mislim, da načeloma to ne mora biti organska struktura. To je lahko na primer računalnik.
Toda ali se bo zavedal samega sebe, bo imel to zelo subjektivnost?
Verjamem, da je mogoče ustvariti samozavestne računalnike. Ponovno to zdaj ni mogoče, a v prihodnosti za to ne vidim ovir.
Če ne bi bil samozaveden, ga človeštvo ne bi moralo sprejeti kot enako inteligentno življenjsko obliko?
Zdi se mi, da je morda veliko popolnoma različnih digitalnih umov, veliko bolj raznolikih od človeških. Čeprav verjamemo, da smo si vsi zelo različni - mati Tereza, Hitler, najpametnejša oseba na svetu in najgluplji človek - smo si med seboj strašno podobni, možgani vsakega od nas niso kaj dosti drugačni od vseh drugih človeških možganov. Vse to je približno en in pol kilogramov na stotine milijard nevronov. Toda digitalni umi so nam lahko zelo, zelo različni in "tuji" (nekateri so seveda lahko podobni našim, nekateri pa ne).
Hkrati verjamem, da bodo nekateri digitalni umi (zlasti tisti, ki bodo imeli zavest, lahko čutili bolečino, pritisk in podobno) dobili različne stopnje moralnega statusa. Ko bomo razvijali vse bolj izpopolnjeno in prefinjeno umetno inteligenco, digitalni um, se bomo morali soočiti z določenim etičnim vprašanjem. In ne samo o tem, kako bo AI vplival na nas ali kako lahko ena oseba uporabi AI v odnosu do druge osebe, ampak tudi o tem, kako se bomo povezali s tem digitalnim umom.
Recimo, da sem zgradil majhno kirno kamna in jo uničil - nikomur nisem škodoval. Če jo seveda zgradite in jaz uničim, potem vam lahko škodi, toda sama cairna nima moralnega statusa. In recimo, pes ga ima, zato je napačno brcati psa. Enako je z zavestnim digitalnim umom, čeprav je sprva njegova zavest na isti ravni kot žival. To odpira etično vprašanje, kako naj ravnamo z njim. In verjamem, da bo kmalu napočil čas, da o tem resno razmislimo, ne le v okviru filozofskih seminarjev, temveč tudi v široki javni razpravi.
Okvir: film "Ohranitelji".
Če govorimo o globalnih grožnjah, ali lahko povečanje števila avtoritarnih režimov na svetu štejemo za enega izmed njih?
Da, mislim, da je to eden od možnih scenarijev distopijske prihodnosti, ki si ga lahko zamislimo, če se različni družbenopolitični trendi razvijajo v napačno smer dovolj dolgo. Nekatere napredne tehnologije lahko olajšajo razvoj teh trendov: boljši nadzor državljanov, naprednejše drone …
Zdaj, če želite vladati državi, tudi če ste diktator, potrebujete podporo vojske in elit. Lahko si predstavljate, da se bo s pomočjo tehnologije umetne inteligence in robotike število ljudi, potrebnih za to, nenehno zmanjševalo. Na koncu se lahko izkaže, da bo ducat ljudi lahko upravljal s prebivalstvom velike države in to ponuja bogate možnosti za ohranjanje obstoja despotskih režimov.
Torej, da - to je eno od tveganj, obstaja pa tudi možnost, da bodo šli ti družbenopolitični trendi v drugo smer.
Pogosto se pogovarjate in pišete o samski enoti - državni zvezi, v kateri odločitve sprejema enotno svetovno telo …
Če pogledate v zgodovino naše vrste, so bili sprva največja enota političnega združevanja kolekti lovcev, ki so jih sestavljali največ petdeset ljudi. Sčasoma so se pod vodstvom voditeljev oblikovala plemena, nato mestne države, nato nacionalne države. Zdaj imamo združenja, kot je Evropska unija, različne mednarodne organizacije, in to bo še naprej, dokler se ne pojavi singlton. Se pravi, da gre za nadaljevanje dolgoletnih zgodovinskih trendov.
Kolikor razumem, ste predpostavljali, da lahko obstajata dve vrsti samcev: "slab" - avtoritarni in "dober" - egalitarni …
Sploh ne štejem, da je "slab" samski nujno avtoritarni, "dober" pa egalitarni. Obstajajo različne okoliščine, v katerih je samski lahko "dober" ali "slab."
Razloži, prosim
Sploh ne vem, kako bi vsega povzel … Seveda pa si lahko predstavljate "slab" egalitarni singl. Recimo, da je morda iz različnih razlogov nesposoben ali neučinkovit. Na primer, če vsi živijo enako slabo, bi bil to popolnoma egalitarni izid, kajne? A vseeno slabo.
Torej obstaja možnost "dobrega" avtoritarnega samca?
No, morda, če ga primerjamo z različnimi alternativami, v položaju, ko je na čelu dobronamerni diktator … "Dober" in "slab" sta relativna izraza, ki se uporabljata za druge možne situacije. Recimo, če je alternativa svetovna katastrofa, bi bil ta rezultat razmeroma dober.
Kaj pa, če si predstavljate popolnega egalitarnega samca? Vse to je videti kot nekakšna utopija, v kateri ljudje živijo brez spopadov in vojn v popolni harmoniji. Toda konflikti so lastni človeški naravi
Človeška narava ni vlivana v bron. Če razmislimo o položaju, v katerem je bila dosežena tehnološka zrelost civilizacije (tu mislim tako na biotehnološka kot na kulturna sredstva za spreminjanje njenih različnih vidikov), če je zastavljen cilj doseganja skupne koristi, je to lahko dober razlog za spremembo človeške narave.
In kako natančno lahko to dosežemo? Postanite manj agresivni, bolj spretni in podobno? Navsezadnje ljudje navadno ne zaupajo tujcem, se združujejo v združenja, ki nasprotujejo drugim združenjem
Da, in to je njihova izbira in se lahko spremeni. Če pa ena skupina ljudi ravna z drugo slabo, potem se lahko odloči, da se ne bo spremenila tako, da bi našla skupno stališče z drugo.
Se pravi, da najverjetneje človeškega vedenja ni mogoče spremeniti v svetovnem merilu?
Točno tako. Tu govorimo o spremembi motivacije, pred tem pa sem govoril o možnosti takšne spremembe, ko nastanejo tehnološke priložnosti. In potem se seveda pojavi vprašanje, ali se bodo ljudje odločili, da jih bodo uporabili za dosego tega cilja.
Mimogrede, o tehnologiji. Vedno se bojimo novih tehnologij. Pred kratkim sem na primer prebral kolumno v ameriški publikaciji, katere avtor se je boril proti opuščanju denarnega papirja, ker brezgotovinska plačila domnevno dajejo preveč možnosti bankam za nadzor prebivalstva. Ali se strinjate s tem stališčem? Je to resnično grožnja družbi?
Gotovina je anonimna varščina. Lahko plačujete z bankovci in jih ne prepoznate. Vse to zmanjšuje sposobnost bank in države za nadzor vsakodnevnega življenja državljanov, kar je v določenih okoliščinah lahko zelo koristno - na primer v despotskih režimih. Toda iz istih razlogov odpira pot za vse vrste negativnih transakcij. Kriminalna dejavnost vključuje anonimna plačila, prenos računov v ovojnicah ali njihovo sodobno nasprotje - plačila v kripto valutah. Veliko težje jih je izvesti, recimo, prek sistema VISA, kjer so vaši osebni podatki povezani z vsako transakcijo.
Zato se je zelo težko odločiti, v katero smer "premakniti drsnik". Obstajajo različni scenariji, v katerih boste morda želeli več družbenega nadzora nad transakcijami, da bi na primer otežili življenje kriminalnim združbam. Ker njihove dejavnosti škodujejo družbi, boste najverjetneje želeli, kako jih omejiti, en tak način pa je urejanje finančnih transakcij.
To je en primer. Kaj pa aktivisti, ki se zavzemajo za prepoved Uberja in podobnih služb, saj ti, pravijo, kršijo pravice taksistov?
Ne vem, katere pravice krši Uber. Mislim, da preprosto nočejo konkurence.
Mislite, da se takšni ljudje lahko imenujejo neoludditi?
Morate pogledati argumentacijo določenih posameznikov. Vsekakor mislim, da njihovo označevanje ne bo vodilo do razumevanja njihovega položaja. Poslušati morate njihove trditve in se odločiti, ali so z vašega vidika dobri ali ne.
Okvir: film "Ravnotežje".
Pogovorimo se o transhumanizmu. Obstaja priljubljena kritika transhumanizma, po kateri biotehnologija, spremembe telesa ne bodo na voljo revnim in državljanom s povprečnimi dohodki. Dobijo jih lahko le bogati - tisti sam odstotek prebivalstva, kar bo povzročilo katastrofalno povečanje neenakosti v družbi. To ni res? Ali menite, da je vse pošteno: naj bogati in uspešni?
To je treba analizirati s konkretnimi primeri. Ne verjamem, da bi morale biti vse biotehnologije, ki se uporabljajo za izboljšanje človeškega telesa, drage. Vzemimo za primer moderni Modafinil, zdravilo, ki se uporablja za izboljšanje kognitivnih lastnosti (recimo, da pomaga nekaterim). Seveda, to stane denar, vendar ne več kot kozarec kapučino Starbucks, ki ga spijejo vsak dan. In če opravlja svoje delo, je vreden svojega denarja.
Sodobna farmakološka sredstva, ki nekako izboljšajo določene lastnosti človeka, na splošno niso zelo draga. Bolj je težava v tem, da morate zanje dobiti recepte. Lažje je dobiti takšno zdravilo za osebo z dobro izobrazbo. Najprej bo vedel za obstoj tega zdravila, lažje mu bo poiskati zdravnika, ki ga pozna, ki mu lahko napiše ta recept … Vse to bo za neizobraženega delavca ali kmeta veliko težje narediti kot za intelektualca, bankirja in tako naprej. Toda ovira je v tem in ne v sami količini denarja.
Seveda, če govorimo o tehnologijah prihodnosti, so lahko v tem smislu zelo drage in diskriminatorne. In družba se bo morala odločiti, ali so dovolj koristne, da jih subvencionirajo - v istem smislu, kot so zdaj zagotovljene subvencije za zdravstveno varstvo.
Če govorimo o subvencijah, kaj menite o zagotovljenem dohodku, znesku denarja, ki ga država redno izplačuje vsakemu članu družbe, ne glede na to, ali dela ali ne? Naj to postane običajna človeška praksa?
Mislim, da bi bilo treba to težavo obravnavati z istega vidika kot umetno inteligenco: koristiti bi morali celotnemu človeštvu in spoštovati etične ideale. Zdi se mi, da bi morali vsi ljudje, ki dosežejo določeno starost, prejeti svoj delež določenih ugodnosti. Kako naj to naredim, bo to stalni tok dohodka ali določen kapital, ki je bil enkrat plačan, ki ga lahko posameznik nato po lastni presoji porabi za določene storitve in blago, še ne vem. Vzdrževanje neprekinjenega pretoka dohodka je spet odvisno od gospodarskih razmer. In dolgoročno je treba razumeti, da se bomo najverjetneje morali soočiti z eksponentno rastjo svetovnega prebivalstva, ki morda presega rast svetovnega gospodarstva - nekoliko malteški argument.
Ali menite, da ima sedanji evropski sistem socialnega varstva - Welfer - pomanjkljivosti?
Zdi se mi precej dobro. Seveda obstajajo načini, kako jo izboljšati. Vsekakor pa je dobro, kadar v bogatih gospodarstvih obstaja sistem socialnega varstva, ki si ga lahko privošči.
Kaj menite o sodobni levičarski politiki - politična korektnost, vključenost in podobno? Ali res deluje v dobro vseh?
Po eni strani je prisotnost stvari, o katerih ni mogoče govoriti in razmišljati, kot filozofu odvzela nekatere možnosti. Mislim, da je včasih grenka resnica dobra, četudi nekoga zameri in moraš plačati precejšnjo ceno za tabuiziranje razprave o tem, kaj je del sodobne resničnosti.
Po drugi strani pa, če to prispeva k izgradnji bolj občutljive družbe do problemov skupnosti, katerih predstavniki se po svojih najboljših močeh trudijo, da drug drugemu ne škodijo in s tem znižajo stopnjo agresije in nasilja … Vse to je lahko izredno pozitivna stvar, četudi v bližnji prihodnosti predstavlja nekaj tveganja. Glej, če si zelo prizadevaš biti politično korekten glede majhnih vsakodnevnih vprašanj, se verjetnost, da nameravaš izvesti kakšno veliko in brutalno etnično čiščenje ali začeti vojno, znatno zmanjša. Na splošno, če smo pri majhnih stvareh bolj občutljivi, bo to pomagalo v globalnem smislu in vse majhne pomanjkljivosti takšnih programov bodo popolnoma upravičene.
V eni izmed vaših publikacij sem prebral, da sodobna zahodna kultura "aktivno sabotira našo rodnost zaradi uvedbe kontrole rojstev." Precej konservativen argument. Lahko razložite?
To sem mislil: če ne boste uporabljali kontrole rojstva, boste imeli več dojenčkov, kar pomeni, da bo preživelo več dojenčkov. Zdaj ljudje rodijo manj otrok, kot bi jih lahko, kar pomeni, da niso v evolucijskem ravnovesju s sodobnim okoljem.
Ali bi morali prvo vlogo nameniti biološki evoluciji, ne pa socialni?
Verjamem, da bi morale biti v prvi vrsti glavne vloge univerzalne človeške vrednote in ne neke biološke naloge.
Zakaj potem ne uporabite kontracepcije?
Seveda lahko sabotirate svoj reproduktivni potencial, vendar se morate zavedati, kaj počnete, in to je zelo koristno. Če na primer razmišljate o dolgoročnih scenarijih za razvoj človeške civilizacije, morate upoštevati, da bodo ljudje, ki sabotirajo reproduktivni potencial, nekako izginili z obličja zemlje. Njihovi geni ne bodo v planetnem genskem skladu, če se ta politika ne spremeni.
Kratkoročno vam ni treba razmišljati o tem, vendar se morate zavedati, da tukaj delujete proti različnim evolucijskim težnjam. In pomembno je prepoznati, da bo to dolgoročno imelo nekaj učinka.
Okvir: film "Lucy".
Ali biološka evolucija še deluje v človeški družbi?
Seveda. V človeški populaciji deluje tako kot pri drugih populacijah. Seveda se sodobno okolje, v katerem živimo, zelo razlikuje od okolja evolucijske prilagodljivosti, vendar verjamem, da je v človeški populaciji trenutno zelo močan evolucijski izbor. Na ekološki časovni lestvici gre hitro, toda recimo glede časovne lestvice tehnološkega napredka, nasprotno, zelo počasi. Tudi ko je izbira zelo hitra, mora prenesti veliko generacij, preden pride do velikega premika. Hkrati mislim, da bomo v manj kot par generacijah dobili popolna orodja za manipulacijo s človeškim genomom in druge možnosti za spremembo stanja človeka. Zato me niso posebej zaskrbljeni zaradi počasnih trendov biološke evolucije, glede na perspektivo takšnih tehnologij na obzorju.
Bi morali izbrati pot izboljšanja genskih baz z biotehnologijo - izbiro »slabih« genov in ohranjanje »dobrih«? Ali to ne bo vodilo do socialnega darvinizma?
Mislim, da genetska medicina ali genetska selekcija ne predvideva socialnega darvinističnega pristopa. Vidite, kako se to zdaj dogaja: ko se pari odločijo za oploditev in vitro, zarodki opravijo genetsko diagnostiko. Namesto samo preverjanja celic za kromosomske nepravilnosti lahko diagnosticiramo široko paleto težav, tudi tistih, ki niso povezani z boleznijo. Na primer, nagnjenost k dolgemu zdravemu življenju, inteligenci, atletskim sposobnostim, osebnostnim lastnostim … Imeli boste več informacij, da lahko izberete, kateri od 6-8-10 zarodkov vsadite med IVF postopkom. In zdi se mi, da je prav ta kontekst najverjetneje v smislu uporabe genetskih tehnologij.
Ste avtor "dokaza simulacije", po katerem morda živimo v resničnosti, simulirani na nekakšnem računalniku. Kako si lahko navaden človek to predstavlja? Na začetku je težko prebavljivo
Ne razumem ravno, katero nalogo si postavljate. Sprejeti morate le, da se nič ne spremeni, le da osnova te opazovane resničnosti, v kateri obstajamo, niso osnovni zakoni fizike, ampak nekakšen računalniški program, vgrajen v računalnik, ki so ga ustvarila neka napredna inteligentna bitja - morda bolj tehnološko napredna civilizacija (verjetno superinteligentna). Vse, kar vidimo, so procesi, ki tečejo na tem računalniku, vendar za prebivalce te simulacije - nas - ni velike razlike v tem, kaj je njegova osnova.
Bolj zanimivo je razmišljati o praktičnih razlogih za ustvarjanje takšne simulacije. Lahko so različni, njeni avtorji lahko izvajajo druge simulacije za reševanje drugih težav. Obstaja veliko možnosti, kako se simulacija lahko konča - in tako naprej. Res je pomembno v primerjavi s situacijo, ko bi bila ta resničnost osnovna.
Če govorimo o računalniku, ki simulira resničnost, kaj pa zakoni fizike? Tak računalnik bo velikanski in bo porabil nepredstavljivo količino energije, sicer pa kako izračunati vsak osnovni delček?
Seveda. Zato mislim, da ta civilizacija ne bo posnemala vseh podrobnosti resničnosti, vse do atomov. Verjamem, da je bolj racionalno posnemati tiste dele resničnosti, ki jih opazujemo v času, ko jih opazujemo (morda še kaj).
Vzemite za primer atome mize, za katero sedite. Nimate pojma, kaj se z njimi zdaj dogaja. Vedeti morate le dimenzije mize, njeno barvo, težo. In v simulaciji bo dovolj izračunati le te atribute. Če vzamete elektronski mikroskop in pod njega postavite kos mize, boste videli več podrobnosti, ki bodo posebej izračunane za to. Izračunali pa jih bodo le tako, da vi, navadna oseba, ne boste opazili nobenih nepravilnosti.
Če ste torej nadinteligenca, ki popolnoma nadzoruje resničnost - vse do vseh vidikov njenih elementov, je pametno dodati podrobnosti tako, kot kdaj in bodite pozorni nanje.
Se izkaže, da je resničnost simulirana za vseh sedem milijard ljudi, ki živijo na zemlji? Za živali? Za tujce?
Vse je odvisno od vrste simulacije. Če govorimo o simulaciji za vse žive ljudi, si lahko predstavljamo, da zajema celotno zgodovino človeštva in je bila začeta pred kratkim. Lahko si predstavljate tudi simulacijo, ki se izvaja za določeno osebo ali majhno skupino ljudi. Potem se seveda poraja vprašanje: kako so tukaj vsi drugi ljudje, ki jih vidimo, medtem ko nismo zavestna bitja? Morda so simulirani le glede na njihov videz, kot so avatarji, ki jih najdemo v video igrah. Ostaja eno nerešeno vprašanje: kako posnemati zunanje vedenje ljudi, ne da bi kot stranski učinek ustvarilo zavest, ki jo ima, kot običajno domnevamo, vsak človek? Verjetno torej ustvarjanje verljive osebe v vedenju,morali boste s posebno natančnostjo simulirati procese, ki se odvijajo v njegovih možganih, kar naj bi tako ali drugače privedlo do pojava zavestnega uma. Čeprav seveda obstaja možnost, da bi jo lahko preprosto ponarejali. In potem si lahko predstavljamo obstoj majhne skupine simulacij - ljudi, pri katerih se je zavest popolnoma razvila, preostali pa so le dodatki.
Glede na vašo hipotezo je v simulaciji lahko veliko simulacij - kot gnezdeče lutke. Ali je obstoj osnovnega, ne posnemanega vesolja v tem primeru obvezen? Kako se je pojavilo in kaj je to?
Moja trditev predvideva, da obstaja neka osnovna raven fizične resničnosti, v kateri se neka bitja razvijajo, postanejo izjemno tehnološko napredna, uporabljajo te tehnologije za pridobitev superinteligence (ali superinteligentne umetne inteligence) in potem imajo veliko sredstev in časa. Zapravljajo ga, vključno z ustvarjanjem teh simulacij inteligentnih ljudi - morda kot mi.
Morda omogočajo, da simulacija še naprej deluje, potem ko ti ljudje ustvarijo svojo simulacijo, ki nato postane simulacija druge stopnje. Toda vse to bo obstajalo na računalniku, ki ga je ustvarila civilizacija, ki obstaja na osnovni ravni fizične resničnosti, hkrati pa bo morda obstajala cela hierarhija simulacij v simulaciji. Toda tu bo vse to določena omejitev, saj se na koncu imitacija izvede v računalniku, ki obstaja na osnovni ravni fizične resničnosti. Obstajajo omejitve razpoložljive energije za vzdrževanje teh zmogljivosti in s tem omejitev števila ugnezdenih simulacij. Seveda lahko uporabite nekaj ezoteričnega pristopa, poskusite najti vrzeli za neskončno gnezdenje, vendar mislim, da tega ni vredno storiti.
Kaj če simulirajo svetove, v katerih so zakoni fizike popolnoma drugačni od naših?
To je tudi mogoče, lahko ustvarijo nekakšne fantastične simulacije.
No, če živimo v simulaciji, kaj je smisel načrtovanja, napovedovanja globalnih tveganj … Eksistencialno vprašanje - kakšen smisel je življenje v simulaciji, ko lahko njeni ustvarjalci preprosto izklopijo računalnik in se bo vse končalo?
Na splošno "dokaz simulacije" ne pomeni, da živimo v simulaciji, temveč o mejah, v kar lahko verjamemo. Predpostavlja, da je ena od treh trditev resnična. Prva je, da živimo v simulaciji, vendar obstajata dve možnosti. Drugo je, da vse civilizacije izginejo, preden dosežejo tehnološko zrelost, tretje pa je, da vse zrele civilizacije izgubijo zanimanje za ustvarjanje takšnih simulacij, preprosto se odločijo, da jih ne bodo storile.
Toda v okviru naše trditve, če resnično živimo v simulaciji, ne vidim, zakaj je smisel vsakdanjega življenja odvisen od dejstva, da je osnova naše resničnosti posnemanje, ki ga je ustvarila neka napredna civilizacija, in ne osnovni zakoni fizike. Vsekakor bo to, kaj se bo zgodilo z vami naprej, kaj se bo zgodilo z vašimi sorodniki, prijatelji in drugimi ljudmi, odvisno od vaših dejanj. Torej, kar počnete v simulaciji, je pomembno, tudi če zunaj tega ni.
Poleg tega obstaja možnost, da tisto, kar se zgodi znotraj simulacije, vpliva na tisto, kar je zunaj njega. Morda so ga ustvarjalci razvili v znanstvene namene, da bi preučili, kaj ljudje počnejo, in to vpliva na to, kar počnejo, saj je pomembno, da razumejo človeško naravo na podlagi odločitev, ki jih sprejmemo. Torej bi lahko prišlo do dodatnega niza posledic zunaj očitnih.
Intervjuval Mihael Karpov
