Zaneseni zaradi hrupa o trenutnih "krizah", s katerimi se sooča človeštvo, pozabljamo na veliko število generacij, za katere upamo, da nas bodo zamenjale. Ne govorimo o tistih ljudeh, ki bodo živeli 200 let po nas, ampak o tistih, ki bodo živeli tisoč ali 10 tisoč let po nas.
Besedo "upanje" uporabljam, ker se soočamo s tveganji, ki jih imenujemo eksistencialna in lahko uničijo človeštvo. Ta tveganja niso povezana samo z večjimi nesrečami, ampak tudi z nesrečami, ki lahko končajo zgodovino.
Vendar vsi ne zanemarjajo oddaljene prihodnosti. Mistiki, kot je Nostradamus, redno poskušajo določiti datum konca sveta. H. G. Wells je poskušal razviti znanost predvidevanja in je znano, da je v svoji knjigi Časovni stroj opisal prihodnost človeštva. Drugi pisci so pripravili druge različice daljne prihodnosti, da bi opozorili, zabavali ali sanjali.
A tudi če vsi ti pionirji in futuristi ne bi razmišljali o prihodnosti človeštva, bi rezultat še vedno ostal enak. Človek prej ni mogel storiti veliko, da bi nas rešil eksistencialne krize ali celo povzročil.
Danes smo v bolj privilegiranem položaju. Človeška dejavnost postopoma oblikuje prihodnost našega planeta. Čeprav smo še daleč od obvladovanja nesreč, že razvijamo tehnologije, ki lahko ublažijo njihove posledice ali vsaj kaj naredijo v zvezi s tem.
Prihodnost je nepopolna
Vendar ta tveganja še vedno niso dobro razumljena. Glede naštetih problemov vlada nemoč in fatalizem. Ljudje že tisočletja govorijo o apokalipsah, a le malo jih je poskušalo preprečiti. Poleg tega ljudje niso tako močni glede težav, ki se še niso pojavile (zlasti zaradi vpliva hevristike razpoložljivosti) - težnja po precenjevanju verjetnosti tistih dogodkov, katerih primeri so nam znani, in podcenjevanju dogodkov, ki jih imamo ne moremo se takoj spomniti).
Promocijski video:
Če človeštvo preneha obstajati, bo tovrstna izguba vsaj enakovredna izgubi vseh živih posameznikov in tudi propadu vseh njihovih ciljev. V resnici pa bo izguba verjetno veliko večja. Izginotje osebe pomeni izgubo smisla, ki so ga ustvarile prejšnje generacije, izgubo življenja vseh prihodnjih generacij (in število prihodnjih življenj je lahko astronomsko), pa tudi vseh tistih vrednot, ki bi jih verjetno lahko ustvarili.
Če zavesti in razuma ni več, potem to verjetno pomeni, da vrednost sama po sebi preneha obstajati v vesolju. To je zelo dober moralni razlog, da si neutrudno prizadevamo za preprečevanje eksistencialnih groženj. In na tej poti ne smemo narediti niti ene napake.
S tem sem izbral pet najresnejših nevarnosti za človeški obstoj. Vendar je treba upoštevati nekatere dodatne okoliščine, saj ta seznam še ni dokončen.
V zadnjih nekaj stoletjih smo sami odkrili ali ustvarili nova eksistencialna tveganja: v zgodnjih sedemdesetih letih so odkrili supervulkane, pred projektom na Manhattnu pa jedrska vojna ni bila mogoča. Zato bi morali pričakovati, da se bodo pojavile tudi druge grožnje. Poleg tega lahko nekatera tveganja, ki se danes zdijo resna, s kopičenjem znanja izginejo. Tudi verjetnost določenih dogodkov se s časom spreminja. Včasih se to zgodi, ker smo zaskrbljeni zaradi obstoječih tveganj in se ukvarjamo z njihovimi vzroki.
Dejstvo, da je nekaj mogoče in potencialno tvegano, še ne pomeni, da je vredno skrbeti. Obstajajo tveganja, s katerimi sploh ne moremo storiti ničesar - na primer pretoki gama žarkov, ki nastanejo pri eksploziji galaksij. Če pa ugotovimo, da smo sposobni nekaj narediti, se prednostne naloge spremenijo. Tako so na primer z izboljšanjem sanitarnih razmer, pojavom cepiv in antibiotikov kuge začeli dojemati ne kot manifestacijo božje kazni, temveč kot slabo stanje zdravstvenega varstva.
1. Jedrska vojna
Medtem ko sta bili doslej uporabljeni le dve atomski bombi - v Hirošimi in Nagasakiju med drugo svetovno vojno - in so se zaloge zmanjšale z vrhov hladne vojne, bi bilo napačno misliti, da je jedrska vojna nemogoča. Pravzaprav se zdi, da ni neverjetna.
Kubanska raketna kriza je bila zelo blizu, da postane jedrska. Če izhajamo iz predpostavke, da se takšna kriza zgodi vsakih 69 let in obstaja ena od treh možnosti, da bi lahko privedla do izbruha jedrske vojne, potem se možnost takšne katastrofe poveča in ustrezni koeficient bo 1 na 200 na leto.
Da je stvar še hujša, je kubanska raketna kriza le najbolj znan primer. Zgodovina sovjetsko-ameriškega jedrskega odvračanja je bogata s kriznimi razmerami in nevarnimi napakami. Dejanska verjetnost ni več odvisna od mednarodnih napetosti, vendar verjetno verjetnost jedrskega spopada ni manjša od koeficienta 1 na 1000 na leto.
Celovita jedrska vojna med velikimi silami bi privedla do smrti sto milijonov ljudi neposredno v trenutku izmenjave stavk ali kot posledica njihovih posledic - to bi bila nepredstavljiva katastrofa. Vendar za eksistencialno tveganje to še vedno ni dovolj.
Enako je treba reči o tveganjih, povezanih s posledicami jedrskih eksplozij - pogosto so pretirane. Lokalno so smrtonosni, globalno pa so razmeroma omejen problem. Bombe s kobaltom so bile predlagane kot hipotetično orožje končnega dne, ki lahko uniči vse zaradi posledic, povezanih z njihovo uporabo, vendar jih je v praksi zelo težko izdelati in so drage. In njihovo ustvarjanje je pravzaprav nemogoče.
Resnična grožnja je jedrska zima - to so delci saj, ki se lahko dvignejo v stratosfero in s tem povzročijo dolgotrajen padec temperature in dehidracijo planeta. Trenutne podnebne simulacije kažejo, da bi to več let onemogočalo obdelovanje večine planeta.
Če se bo ta scenarij uresničil, bodo milijarde ljudi umrle od lakote, majhno število preživelih pa bo izpostavljeno drugim grožnjam, vključno z boleznimi. Glavna negotovost je, kako se bodo obnašali delci saj, ki se dvignejo v nebo: rezultat je lahko odvisen od njihove sestave in za zdaj nimamo zanesljivega načina za merjenje tovrstnih posledic.
2. Pandemije, ki jih povzroča bioinženiring
Naravne pandemije so povzročile več smrtnih primerov kot vojn. Vendar pa naravne pandemije verjetno ne bodo predstavljale eksistencialne grožnje. Običajno obstajajo ljudje, ki so imuni na patogene, potomci preživelih pa postanejo še bolj zaščiteni.
Evolucija tudi ne podpira posebej tistih parazitov, ki uničujejo gostiteljske organizme, zato se je sifilis, ko se je razširil v Evropi, spremenil iz hudobnega morilca in kronične bolezni.
Na žalost smo zdaj sami sposobni bolezni narediti bolj uničujoče. Eden najbolj znanih primerov je, kako je vključitev dodatnega gena v mišje kozice - mišjo različico črnih koz - postala veliko bolj življenjsko nevarna in sposobna okužiti že cepljene posameznike. Nedavno delo z aviarno influenco je pokazalo, da je nalezljivost bolezni mogoče namensko povečati.
Trenutno je tveganje, da bi nekdo namerno razširil kakšno zlonamerno okužbo, zanemarljivo malo. Ker pa se biotehnologija izboljšuje in poceni, bo vedno več skupin bolezen lahko še bolj nevarno.
Večino dela na področju biološkega orožja opravljajo države, ki želijo nekaj nadzorovati, saj uničevanje človeštva vojaško ni koristno. Vedno pa obstajajo ljudje, ki pridejo, da naredijo nekatere stvari preprosto zato, ker so to sposobni. Drugi imajo morda višje cilje.
Člani verske skupine Aum Shinrikyo so na primer poskušali začeti apokalipso pospešiti z uporabo biološkega orožja, ne le z uspešnejšim napadom z uporabo živčnih plinov. Nekateri verjamejo, da se bodo razmere na Zemlji izboljšale, če na njej ne bo več ljudi itd.
Število smrtnih primerov zaradi uporabe biološkega orožja in epidemičnih bolezni daje pomisliti, da se razvijejo v skladu z veljavno zakonodajo - v velikem številu primerov je malo žrtev, v majhnem številu pa veliko žrtev. Glede na trenutno razpoložljive podatke se zdi, da je tveganje za globalno pandemijo zaradi bioterorizma majhno.
A to velja le za bioterorizem: vlade so s pomočjo biološkega orožja pobile bistveno več ljudi kot bioteroristi (približno 400 tisoč ljudi je med drugo svetovno vojno postalo žrtev japonskega programa za biološko vojskovanje). Tehnologija postaja vse močnejša, zato je v prihodnosti lažje ustvariti še več patogenov.
3. Superinteligenca
Inteligenca je močna. Neznatno povečanje reševanja problemov in usklajevanja skupin je razlog, da ostale vrste opic ne delajo. Trenutno je njihov obstoj odvisen od odločitev, ki jih sprejme oseba, in ne od tega, kaj počne.
Biti pameten je resnična odličnost za ljudi in organizacije, zato se veliko truda posveča izboljšanju naše individualne in kolektivne inteligence, od zdravil za izboljšanje kognitivnih sposobnosti do razvoja programov, povezanih z umetno inteligenco.
Težava je v tem, da inteligentni sistemi dobro dosegajo svoje cilje, če pa so ti cilji slabo opredeljeni, potem lahko uporabijo svojo moč za pametno doseganje svojih katastrofalnih ciljev. Nobenega razloga ni, da bi mislili, da je intelekt sam sposoben nekaj narediti ali da nekdo ravna pravilno in moralno. Pravzaprav obstaja možnost, da se nekatere vrste superinteligentnih sistemov upirajo moralnim pravilom, tudi če bi bila mogoča.
Še bolj zaskrbljujoče je dejstvo, da ko poskušamo stvari razložiti umetni inteligenci, se soočamo z globokimi praktičnimi in filozofskimi problemi. Človeške vrednote so nejasna, zapletena vprašanja, ki jih še ne moremo dobro opredeliti, in četudi bi lahko, morda ne bi razumeli vseh posledic tega, kar poskušamo ustvariti.
Programska inteligenca lahko zelo hitro zapolni vrzel med ljudmi in zmogljivosti strojev lahko postanejo nevarne. Težava je v tem, da se umetna inteligenca lahko na različne načine poveže z biološko inteligenco: hitreje deluje na hitrejših računalnikih, njeni deli se nahajajo na več računalnikih, nekatere njene različice je mogoče sproti preizkusiti in posodobiti in obstaja možnost uvedbe novih algoritmov, ki lahko močno povečajo zmogljivost.
Danes mnogi domnevajo, da je "preboj v inteligenci" verjeten, če ima sama programska oprema zmogljivosti za izdelavo boljše programske opreme. Če pride do tovrstnega preskoka, bo velika razlika med pametnim sistemom (ali ljudmi, ki mu govorijo, kaj naj naredi) in ostalim svetom. Takšne razmere bi lahko vodile v katastrofo, če cilji ne bi bili pravilno postavljeni.
Nenavadno pri superinteligenci je, da ne vemo, ali je mogoč hiter in močan preboj v razvoju inteligence: morda se naša sedanja civilizacija kot celota izboljšuje z najvišjo hitrostjo. Vendar je dovolj razlogov, da lahko nekatere tehnologije nekatere stvari premaknejo naprej veliko hitreje kot možnosti za izboljšanje njihovega nadzora s strani sodobne družbe.
Poleg tega še ne moremo razumeti, kako nevarne so lahko nekatere oblike superinteligence in kako bodo delovale strategije blaženja. Zelo težko je ugibati o prihodnjih tehnologijah, ki jih še nimamo, ali inteligenci, ki presega tisto, kar imamo. Med naštetimi tveganji ima prav to največ možnosti, da postane resnično velik ali ostane samo fatamorgana.
Na splošno to področje še ni dovolj raziskano, kar je presenetljivo. Tudi v petdesetih in šestdesetih letih so bili ljudje popolnoma prepričani, da je superinteligenco mogoče ustvariti "v generaciji", vendar takrat varnostnim vprašanjem niso posvečali ustrezne pozornosti. Morda ljudje takrat svojih napovedi preprosto niso jemali resno in so v daljni prihodnosti najverjetneje menili, da gre za težavo.
4. Nanotehnologija
Pri nanotehnologiji gre za nadzor snovi z atomsko ali molekularno natančnostjo. Sama po sebi ni nevarna in je, nasprotno, lahko zelo dobra novica za številne namene. Težava je v tem, da tako kot v biotehnologiji naraščajoče priložnosti povečujejo tudi možnost zlorabe, ki se ji je zelo težko braniti.
Velika težava ni razvpita "siva goo" samopodvajajočih se nanomacin, ki vse požirajo. To bo zahtevalo ustvarjanje zelo dovršenih naprav. Težko je ustvariti stroj, ki se lahko reproducira sam: biologija je po definiciji boljša pri tovrstnih nalogah. Morda bodo nekateri manijaki to zmogli, vendar so na drevesu uničujočih tehnologij bolj dostopni plodovi.
Najbolj očitno tveganje je, da se zdi, da je avtomatska natančna izdelava idealna za poceni izdelavo stvari, kot je orožje. V svetu, v katerem bodo številne vlade lahko "natisnile" veliko število avtonomnih ali polavtonomnih orožnih sistemov (vključno z možnostjo povečanja njihove proizvodnje), lahko oboroževalna tekma postane zelo intenzivna - in kot rezultat povečane nestabilnosti, zato je morda skušnjava stavkati do trenutka, ko sovražnik dobi veliko prednost.
Orožje je lahko tudi zelo majhno in zelo natančno: lahko je "pametni strup", ki lahko deluje ne le kot živčni plin, temveč tudi izbere svoje žrtve ali pa vseprisotni mikroroboti (gnatboti), miniaturni nadzorni sistemi, da prebivalstvo ostane poslušno. - vse to je povsem mogoče. Poleg tega lahko jedrsko orožje in naprave, ki vplivajo na podnebje, pridejo v roke vsiljivcev.
Ne moremo oceniti verjetnosti eksistencialnega tveganja, ki ga predstavlja prihodnja nanotehnologija, vendar so očitno lahko precej uničujoče zgolj zato, ker lahko dajo vse, kar si želimo.
5. Skrivnostno neznano
Najbolj zaskrbljujoča je možnost, da je na svetu nekaj smrtonosnega, vendar ne vemo, kaj je to.
Tišina v nebesih je lahko dokaz tega. Je odsotnost tujcev posledica dejstva, da sta življenje in inteligenca zelo redka, ali ker se pametno življenje običajno uniči? Če obstaja prihodnji Veliki filter, bi ga morale opaziti druge civilizacije, a tudi to ni pomagalo.
Ne glede na takšno grožnjo bi bila skoraj neizogibna, tudi če bi se zavedali njenega obstoja, ne glede na to, kdo ste in kaj v resnici ste. O tej vrsti groženj ne vemo nič (nobena od zgornjih groženj ne deluje na ta način), vendar morda obstajajo.
Upoštevajte, da prisotnost neznanega ne pomeni, da o tem ne moremo sklepati. Članek Maxa Tegmarka in Nicka Bostroma je pokazal, da mora imeti določen niz tveganj razmerje manj kot eno na milijardo na leto glede na relativno starost Zemlje.
Morda vas bo presenetilo, da podnebnih sprememb in vplivov meteorjev ni na tem seznamu. Zaradi podnebnih sprememb, kakršne so, ne bodo mogli živeti celotnega planeta (lahko pa bi predstavljale dodatne nevarnosti, če bi se naša obramba izkazala za neučinkovito). Meteorji nas seveda lahko izbrišejo z obličja Zemlje, toda v tem primeru moramo biti zelo veliki poraženci.
Običajno določena vrsta sesalcev obstaja približno milijon let. Tako je glavna naravna stopnja izumrtja približno ena na milijon na leto. To je bistveno manj kot nevarnost jedrske vojne, ki je 70 let pozneje še vedno največja grožnja našemu nadaljnjemu obstoju.
Hevristika razpoložljivosti nas sili, da precenimo tveganja, o katerih se pogosto govori v medijih, in zmanjšamo tveganja, s katerimi se človeštvo še ni srečalo. Če želimo še naprej obstajati tudi po milijon let, moramo to situacijo popraviti.
Anders Sandberg
Popular Science