S pospeševanjem tehnološkega napredka se človeštvo lahko hitro približuje kritični točki svojega razvoja. Poleg že znanih groženj, kot je jedrski holokavst, nam obeta hitro priložnost za napredovanje tehnologij, kot so nanosistemi in strojna inteligenca, do zdaj pa imamo še izjemno priložnosti in tveganja. Naša prihodnost in ali bomo sploh imeli prihodnost, je odvisno od tega, kako se spopadamo s temi izzivi. S hitro napredujočo tehnologijo potrebujemo boljše razumevanje dinamike prehoda iz človeške v "post-človeško" družbo. Posebej je pomembno vedeti, kje se nahajajo pasti: poti, kjer gredo stvari lahko smrtno narobe.
Čeprav imamo dolgo zgodovino izpostavljenosti različnim osebnim, lokalnim ali toleriranim nevarnostim po vsem svetu, ta članek analizira nedavno nastalo kategorijo: eksistencialna tveganja. Temu pravimo nevarnosti dogodkov, ki lahko privedejo do našega izumrtja ali okvare srca do potenciala inteligentnega življenja, ki se je razvilo na Zemlji. Nekatere od teh nevarnosti so razmeroma dobro poznane, druge pa povsem spregledane. Obstoječe grožnje imajo številne značilnosti, zaradi katerih konvencionalno obvladovanje tveganj v tem primeru ni učinkovito. Zadnje poglavje tega članka govori o nekaterih etičnih in političnih posledicah tega problema. Jasnejše razumevanje pokrajine groženj nam bo omogočilo oblikovanje boljših strategij.
Življenje je nevarno in nevarnost je povsod. Na srečo niso vsa tveganja enako resna. Za svoje namene lahko za opis tveganj uporabimo tri dimenzije: obseg, intenzivnost in verjetnost. Z "lestvico" mislim na velikost ogrožene skupine ljudi. Pod "intenzivnostjo" mislim, koliko škode bo naredil vsak posameznik v skupini. Pod "verjetnostjo" mislim na trenutno trenutno subjektivno oceno verjetnosti negativnega izida.
1. Tipologija tveganj
Ločimo lahko šest kakovostno različnih skupin tveganj, odvisno od njihovega obsega in intenzivnosti (tabela 1). Tretji dimenziji, verjetnosti, lahko pripišemo ti dve dimenziji. Če smo enaki, je tveganje resnejše, če ima veliko verjetnost in če ga naša dejanja lahko povečajo ali zmanjšajo.
Lestvica / intenzivnost: nosljiva intenzivnost smrtonosna intenziteta
globalno izčrpavanje ozona X
Promocijski video:
lokalni gospodarski upad v državi Genocid
Smrt kraje osebnega avtomobila
„Osebno“, „lokalno“ali „globalno“se nanaša na velikost prebivalstva, ki je neposredno prizadeto; globalno tveganje vpliva na vse človeštvo (in naše potomce). "Dopustna intenzivnost tveganja" in "smrtonosna intenzivnost" se nanašata na to, kako slabo bo vplivalo prebivalstvo v nevarnosti. Prenosno tveganje lahko privede tudi do velikega uničenja, vendar ostaja priložnost, da si povrnemo škodo ali poiščemo načine za premagovanje negativnih posledic. V nasprotju s tem je največje tveganje tveganje, kadar predmeti, ki so mu izpostavljeni, bodisi umrejo ali so nepopravljivo poškodovani tako, da korenito zmanjšajo svoj potencial za življenje, ki ga želijo živeti. V primeru osebnih tveganj je končni rezultat lahko na primer smrt, nepopravljiva resna poškodba možganov,ali dosmrtnega zapora. Primer lokaliziranega tveganja smrti je lahko genocid, ki vodi v uničenje celega ljudstva (kar se je zgodilo več indijskim ljudstvom). Drug primer je spreobrnjenje v večno suženjstvo.
2. Obstoječa tveganja
V tem članku bomo obravnavali tveganja šeste kategorije, ki je v tabeli označena kot X. To je kategorija globalnih smrtno nevarnih tveganj. Poimenoval jih bom eksistencialne grožnje.
Obstoječe grožnje se razlikujejo od globalno sprejemljivih tveganj. Primeri slednjih so: grožnje biotski raznovrstnosti kopenske ekosfere, zmerno globalno segrevanje (in celo veliko) in morebiti zadušitev kulturnih in verskih dob, kot so "temne dobe", tudi če segajo v celotno družbo, če se slej ko prej končajo (čeprav glej poglavje Screech spodaj). Če trdimo, da je globalno tveganje dopustno, očitno ne pomeni, da je sprejemljivo ali ne zelo resno. Svetovna vojna s konvencionalnim orožjem ali desetletje nacističnega rajha bo izjemno hud dogodek, kljub temu, da spadata v kategorijo dopustnih svetovnih tveganj, saj si človeštvo lahko sčasoma opomore. (Po drugi strani,ti dogodki bodo lokalno smrtno tveganje za številne posameznike in za preganjane etnične skupine.)
Uporabil bom naslednjo definicijo eksistencialnega tveganja:
Grožnja obstoju je tveganje, pri katerem negativni rezultat bodisi uniči inteligentno življenje, ki je nastalo na Zemlji, bodisi nepovratno in znatno zmanjša njegov potencial.
Obstoj je tveganje, ki ogroža človeštvo kot celoto. Takšne katastrofe imajo ogromne negativne posledice za celotno prihodnost zemeljske civilizacije.
3. Edinstvenost problema groženj obstoju
Tveganja v tej šesti kategoriji so se pojavila pred kratkim. To je eden od razlogov, da jih je koristno ločiti v ločeno kategorijo. Nismo razvili naravnih ali kulturnih mehanizmov za spopadanje s takšnimi tveganji. Naše institucije in obrambne strategije so bile soočene s tveganji, kot so nevarne živali, sovražni ljudje ali plemena, zastrupljena hrana, prometne nesreče, Černobil, Bhopal, vulkanski izbruhi, potresi, suše, 1. svetovna vojna, 2. svetovna vojna, epidemije gripe, okužbe, črna kuga in aids. Ta vrsta katastrofe se je že večkrat zgodila in naš kulturni odnos do tveganja se je oblikoval s poskusi in napakami pri ravnanju s takšnimi grožnjami. Toda biti tragedija neposredno za udeležence teh dogodkov,s širokega zornega kota - s stališča vsega človeštva - tudi najbolj grozne te katastrofe so bile le vale na površju velikega morja življenja. Niso bistveno vplivale na skupno število srečnih in trpečih ljudi, prav tako niso določile dolgoročne usode naše vrste.
Razen kometov, ki uničujejo vrste, in trčenja asteroida (ki so izredno redki) verjetno do sredine 20. stoletja ni bilo večjih groženj obstoju in zagotovo nismo mogli storiti ničesar od tega.
Prva grožnja, ki jo je ustvaril človek, je bila prva atomska bomba. Takrat je bilo nekaj pomislekov, da bi eksplozija sprožila verižno reakcijo z "prižiganjem" ozračja. Čeprav zdaj vemo, da je bil takšen izid fizično nemogoč, je bila takrat ta domneva skladna z opredelitvijo eksistencialne grožnje. Da je tveganje osnovano na razpoložljivem znanju in razumevanju, je dovolj, da obstaja subjektivna verjetnost neugodnega izida, čeprav se pozneje izkaže, da objektivno ni bilo možnosti, da bi se kaj hudega zgodilo. Če ne vemo, ali je nekaj objektivno tvegano, je tvegano v subjektivnem smislu. Ta subjektivni pomen je seveda tisto, na čemer bi morali temeljiti svoje odločitve. Kadar koli moramo uporabiti svojo najboljšo subjektivno oceno, alikakšni so objektivni dejavniki tveganja.
Veliko večja grožnja obstoju se je pojavila hkrati s pojavom arzenalov jedrskega orožja v ZSSR in ZDA. Popolna jedrska vojna je bila mogoča z veliko mero verjetnosti in s posledicami, ki bi lahko bile tako trajne, da bi jih lahko označili za globalno in dokončno. Med ljudmi, ki so bili najbolj seznanjeni s takrat razpoložljivimi informacijami, je bilo resnično zaskrbljeno, da bi se lahko zgodil jedrski Armagedon in da bi lahko trajno izbrisal naše vrste ali trajno uničil človeško civilizacijo. v prihodnjem spopadu, po naključju ali namerno. Obstaja tudi tveganje, da bodo druge države nekega dne lahko zgradile velike arzenale. Upoštevajte pa, da je manjša izmenjava jedrskih napadov, na primer med Indijo in Pakistanom,ni grožnja za obstoj, saj ne bo uničila človeštva in ne bo nepovratno škodovala človeškemu potencialu. Vendar bi takšna vojna predstavljala lokalno smrtno tveganje za tarča teh mest. Na žalost bomo videli, da so jedrski Armageddon in kotarski ali asteroidni udar le uvod v grožnje obstoju v 21. stoletju.
Posebnost izzivov, ki jih predstavljajo eksistencialne grožnje, je mogoče ponazoriti z naslednjimi pripombami.
Naš pristop k eksistencialnim grožnjam ne more temeljiti na poskusih in napakah. Na napakah se ni mogoče učiti. Reaktivni pristop - gledanje, kaj se je zgodilo, omejevanje škode in učenje izkušenj - ne deluje. Namesto tega moramo sprejeti proaktiven pristop. To zahteva predvidevanje za odkrivanje novih vrst tveganj in pripravljenost na odločilne preventivne ukrepe in plačilo njihovih moralnih in gospodarskih stroškov.
Ne moremo se zanesljivo zanašati na svoje institucije, moralne standarde, družbeni odnos ali politike nacionalne varnosti, ki so se razvile iz naših izkušenj pri ravnanju z drugimi vrstami tveganj. Grožnje obstoja so drugačna zver. Morda nam bo težko jemati tako resno, kot si zaslužijo, saj takšnih nesreč še nikoli nismo doživeli. Naš kolektivni odziv na strah je verjetno slabo umerjen glede na obseg grožnje.
Zmanjšanje eksistencialnih groženj je splošno javno dobro (Kaul, 1999) in ga trg morda ne bo ustrezno oskrbel (Feldman, 1980). Obstoječe grožnje so grožnja vsem in lahko zahtevajo mednarodni odziv. Spoštovanje narodne suverenosti ni legitimen izgovor za neuspeh protiukrepov proti kritičnim obstojem.
Če upoštevamo blaginjo prihodnjih generacij, se škoda zaradi eksistencialnih groženj pomnoži z drugim faktorjem, ki je odvisen od tega, ali in koliko bodo v prihodnosti upoštevane (Caplin, Leahy 2000; Schelling 2000: 833-837).
Glede na nedvomen pomen teme je presenetljivo, kako malo sistematičnega dela je bilo narejenega na tem področju. To je delno zato, ker najhujša tveganja izhajajo (kot bomo pokazali kasneje) iz pričakovanih tehnologij v prihodnosti, ki smo jih šele pred kratkim začeli razumeti. Drugi del razlage je lahko neizogibno interdisciplinarna in špekulativna narava raziskovalnega predmeta. In deloma lahko zanemarjanje pripišemo nepripravljenosti resnega razmišljanja o depresivnih temah. To ne pomeni, da bi se morali odvrniti, ampak da moramo trdo pogledati, kaj lahko gre narobe, da bomo lahko ustvarili trdne strategije za izboljšanje možnosti za preživetje. Da bi to naredili, moramo vedeti, kam usmeriti svoja prizadevanja.
4. Razvrstitev tveganj za obstoj
Za razvrstitev eksistenčnih tveganj bomo uporabili naslednje 4 kategorije:
Eksplozije (udarci) - Inteligentno življenje, ki je nastalo na Zemlji, je iztrebljeno kot posledica razmeroma nenadne katastrofe, ki se lahko zgodi bodisi kot posledica nesreče bodisi namenoma.
Krči - sposobnost človeštva, da se razvije v posmrtnost, je nepovratno poškodovana, čeprav ljudje še naprej nekako živijo.
Kriki - Nekaj oblike posmrtnosti bo doseženo, vendar bo le izredno ozek del spektra tistega, kar je mogoče in želeno.
Počasi - posthumana civilizacija se pojavi, vendar se razvija v smeri, ki vodi postopoma, a nepreklicno, do popolnega izginotja stvari, ki jih cenimo, ali do stanja, kjer se te vrednote uresničujejo le v majhni meri od ravni, ki bi jo bilo mogoče doseči.
Oboroženi s takšno klasifikacijo lahko začnemo analizirati najverjetnejše scenarije v vsaki kategoriji. Opredelitve bodo postale tudi jasnejše, ko napredujemo.
Zahvaljujoč pospeševanju tehnološkega napredka se človeštvo približuje kritični točki svojega razvoja. Poleg znanih groženj, kot je jedrski holokavst, nam možnosti za hitro razvijajoče se tehnologije, kot so nanosistemi in strojna inteligenca, predstavljajo še neprimerljive priložnosti in tveganja. Naša prihodnost in ali bomo imeli prihodnost, je odvisno od tega, kako se spopadamo s temi izzivi. S hitro napredujočo tehnologijo potrebujemo boljše razumevanje dinamike prehoda iz človeške v "post-človeško" družbo. Pomembno je vedeti, kje se nahajajo pasti: poti, kjer lahko gredo stvari smrtno narobe.
Čeprav imamo dolgo zgodovino izpostavljenosti različnim osebnim, lokalnim in prenosljivim nevarnostim po vsem svetu, ta članek analizira novo nastajajočo kategorijo: eksistencialna tveganja. Temu pravimo nevarnosti dogodkov, ki lahko privedejo do izumrtja ljudi ali srčne poškodbe potenciala inteligentnega življenja, ki se je razvilo na Zemlji. Nekatere od teh nevarnosti so razmeroma dobro poznane, druge pa spregledane. Obstoječe grožnje imajo številne značilnosti, zaradi katerih konvencionalno obvladovanje tveganj v tem primeru ni učinkovito. Zadnje poglavje tega članka govori o nekaterih etičnih in političnih posledicah tega problema. Jasnejše razumevanje pokrajine groženj nam bo omogočilo oblikovanje glavnih strategij.
Nevarno je živeti, nevarnost pa je povsod. Na srečo niso vsa tveganja enako resna. Za svoje namene uporabljamo tri dimenzije za opis tveganja: obseg, intenzivnost in verjetnost. Z "lestvico" mislim na velikost ogrožene skupine ljudi. Pod "intenzivnostjo" mislim, koliko škode bo naredil vsak posameznik v skupini. Pod "verjetnostjo" mislim na trenutno trenutno subjektivno oceno verjetnosti negativnega izida.
5. Tipologija tveganj
Glede na obseg in intenzivnost obstaja šest skupin tveganj.
Lestvica / intenzivnost: nosljiva intenzivnost / smrtonosna intenzivnost
globalno / ozonsko izčrpavanje, X
lokalni / gospodarski upad v državi, Genocide
Osebna / kraja avtomobila, smrt
Tretji dimenziji, verjetnosti, lahko pripišemo ti dve dimenziji. Če smo enaki, je tveganje resnejše, če ima veliko verjetnost in če ga naša dejanja lahko povečajo ali zmanjšajo.
„Osebno“, „lokalno“ali „globalno“se nanaša na velikost prebivalstva, ki je neposredno prizadeto; globalno tveganje vpliva na vse človeštvo (in potomce). "Dopustna intenzivnost tveganja" in "smrtonosna intenzivnost" se nanašata na to, kako slabo bo vplivalo prebivalstvo v nevarnosti. Prenosno tveganje lahko privede tudi do uničenja, vendar ostaja priložnost, da si povrnemo škodo ali poiščemo načine za premagovanje negativnih posledic. V nasprotju s tem je največje tveganje tveganje, kadar predmeti, ki so mu izpostavljeni, bodisi umrejo, bodisi so nepopravljivo poškodovani tako, da zmanjšajo svoj potencial, da živijo življenje, ki ga želijo živeti. Za osebna tveganja je končni rezultat smrt, nepopravljiva, resna poškodba možganov ali dosmrtna zapora. Primer lokalne smrtne nevarnosti je genocid, ki vodi v uničenje ljudi (kar se je zgodilo več indijskim ljudstvom). Drug primer je spreobrnjenje v večno suženjstvo.
Obstoječa tveganja
V tem članku bomo obravnavali tveganja šeste kategorije, ki je v tabeli označena kot X. To je kategorija globalnih smrtno nevarnih tveganj. Poimenoval jih bom eksistencialne grožnje.
Obstoječe grožnje se razlikujejo od globalno sprejemljivih tveganj. Primeri slednjih so: grožnje biotski raznovrstnosti kopenske ekosfere, zmerno globalno segrevanje (in celo veliko) in morebiti zadušitev kulturnih in verskih dob, kot so "temne dobe", čeprav segajo v celotno družbo, če se slej ko prej končajo (čeprav glej poglavje Screech spodaj). Povedati, da je globalno tveganje dopustno, očitno ne pomeni reči, da je sprejemljivo ali da ni resno.
Svetovna vojna s standardnim orožjem ali desetletje nacističnega rajha bo izjemno hud dogodek, kljub temu, da spadata v kategorijo dopustnih svetovnih tveganj, saj si človeštvo lahko sčasoma opomore. (Toda ti dogodki bodo predstavljali lokalno smrtno tveganje za mnoge in za preganjane etnične skupine.)
Uporabil bom naslednjo definicijo eksistencialnega tveganja:
Grožnja obstoju je tveganje, pri katerem negativni rezultat bodisi uniči inteligentno življenje, ki je nastalo na Zemlji, bodisi nepovratno in zmanjša njegov potencial.
Obstoj je tveganje, ki ogroža človeštvo kot celoto. Takšne katastrofe imajo negativne posledice za prihodnost zemeljske civilizacije.
Edinstvenost problema eksistencialne grožnje
Tveganja v tej šesti kategoriji so se pojavila pred kratkim. To je eden od razlogov, da jih je koristno ločiti v ločeno kategorijo. Nismo razvili naravnih ali kulturnih mehanizmov za spopadanje s takšnimi tveganji. Naše institucije in obrambne strategije so bile soočene s tveganji, kot so nevarne živali, sovražni ljudje ali plemena, zastrupljena hrana, prometne nesreče, Černobil, Bhopal, vulkanski izbruhi, potresi, suše, 1. svetovna vojna, 2. svetovna vojna, epidemije gripe, okužbe, črna kuga in aids. Ta vrsta katastrofe se je že večkrat zgodila in naš kulturni odnos do tveganja se je oblikoval s poskusi in napakami pri ravnanju s takšnimi grožnjami. Toda biti tragedija neposredno za udeležence teh dogodkov,s širokega vidika - s človeškega stališča - tudi najbolj grozne te katastrofe so bile le vale na površju velikega morja življenja.
Niso bistveno vplivale na skupno število srečnih in trpečih ljudi, prav tako niso določile dolgoročne usode naše vrste.
Razen zaradi kometov, ki uničujejo vrste, in asteroidnih trkov (ki so izredno redki), do sredine 20. stoletja ni bilo groženj obstoju in z nobenim od njih zagotovo nismo mogli storiti ničesar.
Prva grožnja, ki jo je ustvaril človek, je bila prva atomska bomba. Takrat je bilo nekaj pomislekov, da bi eksplozija sprožila verižno reakcijo z "prižiganjem" ozračja. Čeprav zdaj vemo, da je bil takšen izid fizično nemogoč, je bila takrat ta domneva skladna z opredelitvijo eksistencialne grožnje. Da je nekaj dovolj tvegano, obstaja subjektivna verjetnost neugodnega izida, čeprav se pozneje izkaže, da objektivno ni bilo možnosti, da bi se kaj slabega zgodilo. Če ne vemo, ali je nekaj objektivno tvegano ali ne, je to tveganje v subjektivnem smislu. Ta subjektivni pomen je seveda tisto, na čemer bi morali temeljiti svoje odločitve. V vsakem trenutku moramo uporabiti najboljšo subjektivno oceno, kakšni so objektivni dejavniki tveganja.
Veliko večja grožnja obstoju se je pojavila hkrati s pojavom arzenalov jedrskega orožja v ZSSR in ZDA. Popolna jedrska vojna je bila mogoča z veliko mero verjetnosti in s posledicami, ki bi lahko bile tako trajne, da bi jih lahko označili za globalno in dokončno. Med ljudmi, ki so bili najbolj seznanjeni s takrat razpoložljivimi informacijami, je bilo resnično zaskrbljeno, da se lahko zgodi jedrski Armagedon in da bo za vedno izbrisal naše vrste ali uničil človeško civilizacijo.
Rusija in ZDA imajo ogromno jedrskih arzenalov, ki bi jih lahko uporabili v prihodnjih spopadih, po naključju ali namerno. Obstaja tudi tveganje, da bodo druge države nekega dne lahko zgradile velike arzenale. Toda majhna izmenjava jedrskih napadov, na primer med Indijo in Pakistanom, ne grozi obstoju, saj ne bo uničila človeštva in ne bo nepovratno škodovala človeškemu potencialu. Vendar bi takšna vojna predstavljala lokalno smrtno tveganje za tarča teh mest. Na žalost bomo videli, da so jedrski Armageddon in kotarski ali asteroidni udar le uvod v grožnje obstoju v 21. stoletju.
Narava težav, ki izhajajo iz eksistencialnih groženj, bo ponazorjena z naslednjimi pripombami.
Naš pristop k eksistencialnim grožnjam ne more temeljiti na poskusih in napakah. Iz napak se ne moreš učiti. Reaktivni pristop - gledanje, kaj se je zgodilo, omejevanje škode in učenje izkušenj - ne deluje. Moramo sprejeti proaktiven pristop. To zahteva predvidevanje za odkrivanje novih vrst tveganj in pripravljenost na preventivne ukrepe in plačilo njihovih moralnih in gospodarskih stroškov.
Ne moremo se zanesljivo zanašati na institucije, moralne standarde, družbeni odnos ali politike nacionalne varnosti, ki so se razvile iz izkušenj pri ravnanju z drugimi vrstami tveganj. Grožnje obstoja so drugačna zver. Težko jih jemljemo tako resno, kot si zaslužijo, saj takšnih nesreč še nikoli nismo doživeli. Kolektivni odziv na strah je verjetno slabo umerjen glede na obseg grožnje.
Zmanjšanje eksistencialnih groženj je splošno javno dobro (Kaul, 1999), zato ga trg premalo oskrbuje (Feldman, 1980). Grožnje obstoju grozijo vsem in zahtevajo mednarodni odziv. Spoštovanje narodne suverenosti ni legitimen izgovor za neuspeh protiukrepov proti kritičnim obstojem.
Glede na nedvomen pomen teme je presenetljivo, kako malo sistematičnega dela je bilo narejenega na tem področju. To je delno zato, ker najhujša tveganja izhajajo (kot bomo pokazali kasneje) iz pričakovanih tehnologij v prihodnosti, ki smo jih razumeli šele pred kratkim.
Drugi del razlage je lahko neizogibno interdisciplinarna in špekulativna narava raziskovalnega predmeta. In deloma lahko zanemarjanje pripišemo nepripravljenosti resnega razmišljanja o depresivnih temah. To ne pomeni, da bi se morali odvrniti, ampak da moramo trdo pogledati, kaj lahko gre narobe, da bomo lahko ustvarili trdne strategije za izboljšanje možnosti za preživetje. Da bi to naredili, moramo vedeti, kam usmeriti svoja prizadevanja.
Razvrstitev obstojnih tveganj
Za razvrstitev eksistenčnih tveganj bomo uporabili naslednje 4 kategorije:
Eksplozije (udarci) - Inteligentno življenje, ki je nastalo na Zemlji, je iztrebljeno kot posledica razmeroma nenadne katastrofe, ki se lahko zgodi bodisi kot posledica nesreče bodisi namenoma.
Krči - sposobnost človeštva, da se razvije v posmrtnost, je nepovratno poškodovana, čeprav ljudje še naprej nekako živijo.
Kriki - Nekaj oblike posmrtnosti bo doseženo, vendar bo le izredno ozek del spektra tistega, kar je mogoče in želeno.
Počasi - posthumana civilizacija se pojavi, vendar se razvija v smeri, ki vodi postopoma, a nepreklicno, do popolnega izginotja stvari, ki jih cenimo, ali do stanja, kjer se te vrednote uresničujejo le v majhni meri od ravni, ki bi jo bilo mogoče doseči.
Oboroženi s takšno klasifikacijo lahko začnemo analizirati najverjetnejše scenarije v vsaki kategoriji. Opredelitve bodo postale tudi jasnejše, ko napredujemo.
Šiška
To je najbolj očitna oblika globalnega tveganja. Ta koncept je najlažje razumeti. Spodaj je nekaj najverjetnejših načinov, kako eksplozivno končati svet. Poskušal sem jih urediti v naraščajočem vrstnem redu (po moji oceni) verjetnosti, da bi povzročil iztrebljanje inteligentnega življenja na Zemlji; toda nameraval sem naročiti, da bi ustvaril podlago za nadaljnjo razpravo, namesto da bi dal nedvoumne izjave.
1. Namerna zloraba nanotehnologije
Molekularna nanotehnologija bo v svoji zreli obliki omogočila ustvarjanje samoponovljivih robotov velikosti bakterij, ki se lahko prehranjujejo s kanalizacijo ali drugo organsko snovjo (Drexler 1985, 1992; Merkle in sod. 1991: 187-195; Freitas 2000). Takšni razmnoževalci lahko pojedo biosfero ali jo uničijo na druge načine, kot so zastrupitev, sežiganje ali preprečevanje sončne svetlobe. Človek s kriminalnimi nameni s to nanotehnologijo lahko povzroči uničenje inteligentnega življenja na Zemlji s sproščanjem takšnih nanobotov v okolje.
Zdi se, da je tehnologija za ustvarjanje uničevalnih nanobotov veliko enostavnejša od tehnologije za ustvarjanje učinkovite obrambe pred takšnim napadom (globalni nanotehnološki imunski sistem, "aktivni ščit" (Drexler 1985)). Zato bo verjetno prišlo do ranljivosti, med katero je treba preprečiti, da bi te tehnologije padle v napačne roke. Tudi s temi tehnologijami je težko upravljati, saj ne potrebujejo redkih radioaktivnih izotopov ali ogromnih tovarn, ki jih je enostavno zaznati, kot je to primer pri proizvodnji jedrskega orožja (Drexler 1985).
Tudi če obstajajo učinkovite zaščite pred omejenim napadom nanotehnologije, preden nevarni razmnoževalci razvijejo in pridobijo samomorilske režime ali teroriste, še vedno obstaja nevarnost, da bo med državami, ki posedujejo nanotehnologijo, oborožena tekma. Trdil je (Gubrud 2000), da bo molekularna proizvodnja povzročila večjo nestabilnost v tekmi z orožjem in večjo nestabilnost v zvezi s krizami kot jedrsko orožje. Nestabilnost tekme z orožjem pomeni, da bo na vsaki tekmni strani prevladovala želja po okrepitvi oborožitve, kar bo vodilo do hitrega razpleta dirke z orožjem. Nestabilnost v povezavi s krizami pomeni, da bo prva stavka glavna spodbuda za vsako stran. Dva približno enako močna nasprotnika,Ko bodo pridobili nanotehnološko orožje, bodo s tega vidika začeli množično proizvodnjo in oblikovanje orožja, ki se bo nadaljevalo, dokler se ne pojavi kriza in ne začne vojna, ki bi lahko povzročila splošno končno uničenje. To, da bi bilo mogoče napovedati to dirko z orožjem, ni zagotovilo, da bo pravočasno vzpostavljen mednarodni varnostni sistem, ki bo preprečil to katastrofo. Napovedana je bila jedrska tekma z orožjem med ZSSR in ZDA, vendar se je kljub temu zgodila.da bo pravočasno vzpostavljen mednarodni varnostni sistem, ki bo preprečil to katastrofo. Napovedana je bila jedrska tekma z orožjem med ZSSR in ZDA, vendar se je kljub temu zgodila.da bo pravočasno vzpostavljen mednarodni varnostni sistem, ki bo preprečil to katastrofo. Napovedana je bila jedrska tekma z orožjem med ZSSR in ZDA, vendar se je kljub temu zgodila.
2. Jedrski holokavst
ZDA in Rusija imata še vedno ogromne rezerve jedrskega orožja. Toda ali bo polnopravna jedrska vojna pripeljala do resničnega iztrebljanja človeštva? Upoštevajte to:
(a) da postane eksistenčno tveganje, zadostuje, da nismo prepričani, da se to ne bo zgodilo.
(b) podnebni učinki obsežne jedrske vojne so malo znani (obstaja možnost jedrske zime).
(c) Prihodnjih tekem z orožjem med državami ni mogoče izključiti, kar bi lahko povzročilo še večje arzenale od tistih, ki so obstajali na vrhuncu hladne vojne. Svetovna zaloga plutonija nenehno narašča in je dosegla 2.000 ton, kar je približno desetkrat več kot ostaja v bojnih glavah (Leslie 1996: 26). Tudi če nekateri preživijo kratkotrajne učinke jedrske vojne, bi to lahko pripeljalo do propada civilizacije. Človeška rasa iz kamene dobe je lahko ali ni bolj odporna na izumrtje kot druge živalske vrste.
3. Živimo v simulaciji in se izklopi
Lahko trdimo, da je treba hipotezo, da živimo v računalniški simulaciji, pripisati precejšnji verjetnosti (Bostrom 2001). Osnovna ideja tako imenovanega Dokazila simulacije je, da bodo v prihodnosti morda na voljo ogromne računalniške moči (Moravec 1989, 1999) in da jih je med drugim mogoče uporabiti za izvajanje velikega števila fino strukturiranih simulacij preteklosti. človeške civilizacije. Rezultat je na nekaj ne tako neverjetnih predpostavk lahko, da je večina takšnih, kot je naš, simulirani umi, zato moramo pripisati veliko verjetnost, da smo takšni simulirani umi in ne (subjektivno nerazločljivi) uma naravno razvitih bitij. In če je tako, tvegamoda se simulacija lahko kadar koli izklopi. Odločitev za ustavitev simulacije je morda posledica naših ukrepov ali zunanjih dejavnikov.
Čeprav se komu zdi neresno, da bi tako radikalno hipotezo poleg posebne grožnje jedrskega holokavsta izpostavilo, moramo svoje sklepe utemeljiti na sklepanju, ne na neobremenjeni intuiciji. Dokler Bostrom (2001) ne bo oporekal trditvam, bi bilo intelektualno nepošteno prezreti simulacijo zaustavitve kot možnega vzroka izumrtja ljudi.
4. Slabo programirana superinteligenca
Ko bomo ustvarili prvo nadinteligentno napravo (Moravec 1989, 1998, 1999; Vinge 1993; Bostrom 1998; Kurzweil 1999; Hanson idr. 1998), lahko naredimo napako in si postavimo cilje, ki jo bodo usmerili v uničenje človeštva glede na njegovo kolosalnost intelektualna prednost, ki daje moč za to. Na primer, lahko napačno povzdignemo cilj na nižji ravni do statusa supergola. Rečemo mu, naj reši neki matematični problem, in on uboga, tako da vso snov v osončju pretvori v ogromno računalniško napravo, ob tem pa ubije osebo, ki je postavila to vprašanje. (Za nadaljnjo analizo te teme glej (Yudkowsky 2001)).
5. Gensko inženirni biološki objekt
Zaradi velikega napredka genske tehnologije, ki se zdaj dogaja, bo tiran, terorist ali norček lahko ustvaril "virus usodnega dne": organizem, ki združuje dolgo zamudo z visoko virulenco in smrtnostjo (National Intelligence Council 2000).
Nevarne viruse je mogoče celo gojiti nenamerno, kar so nedavno pokazali avstralski raziskovalci, ki so ustvarili modificiran virus Ectromelia mišice s 100-odstotno smrtnostjo, ko so poskušali oblikovati kontracepcijski virus za miši, ki bi jih uporabljali za zatiranje škodljivcev glodavcev (Nowak 2001). Čeprav ta določen virus ne okuži ljudi, obstaja sum, da bi podobne spremembe povečale smrtnost človeškega virusa ošpic. Morebitna nevarnost pri tem dodaja to, da je bila študija hitro objavljena v odprti znanstveni literaturi (Jackson et al. 2001: 1479-1491). Redko je mogoče videti, da so podatki, ustvarjeni v odprtih biotehnoloških projektih, tajni, ne glede na tokako resna je potencialna nevarnost - enako velja za raziskave nanotehnologije.
Genska medicina bo privedla do boljših zdravil in cepiv, vendar ni nobenega zagotovila, da bodo obrambe držale kaznivega dejanja. (Celo naključno ustvarjen virus okužb mišice je imel 50-odstotno smrtnost pri cepljenih miših.) Na koncu lahko nevarnost biološkega orožja zakoplje z napredovanjem nanomedicine, vendar pa ima nanotehnologija ogromen dolgoročni potencial za medicino (Freitas 1999), vendar ima svoje nevarnosti.
6. Napačna uporaba nevarne nanotehnologije ("siva goo")
Možnosti nesreče nikoli ni mogoče povsem izključiti.
Vendar pa obstaja veliko načinov, kako se izogniti nesrečam pri ubijanju ljudi z uporabo zanesljivih inženirskih rešitev. Nevarni uporabi samo ponovljivih sistemov se je mogoče izogniti; nanobote lahko naredite odvisno od uporabe nekaterih redkih kemikalij, ki v naravi ne obstajajo; jih lahko zaprete v zaprtem okolju; zasnovani so lahko tako, da bo kakršna koli mutacija skoraj zagotovo povzročila, da bo nanobot prenehal delovati (Foresight Institute 2000). Zaradi tega je naključna zloraba nanobotov veliko manj mučna kot zlonamerna (Drexler 1985; Freitas 2000; (Foresight Institute 1997-1991).
Razlika med naključnim in namernim pa lahko postane nejasna. Čeprav se načeloma zdi, da so globalne nanotehnološke katastrofe zelo malo verjetne, lahko posebne okoliščine preprečijo uresničitev te idealne stopnje varnosti. Primerjajte nanotehnologijo z jedrsko tehnologijo. Z inženirskega vidika je seveda mogoče uporabljati jedrsko tehnologijo samo v miroljubne namene, na primer le v jedrskih reaktorjih, ki imajo nič verjetnosti, da bodo uničili ves planet. Toda v praksi se je izkazalo, da se ni mogoče izogniti uporabi jedrske tehnologije tudi za ustvarjanje jedrskega orožja, kar je privedlo do oborožene tekme. Z jedrskimi arzenali na visoki ravni bojne pripravljenosti je visoko tveganje nenamerne vojne neizogibno. Enako se lahko zgodi z nanotehnologijo:morda bodo prisiljeni v vojaške namene na način, ki bi lahko povzročil neposredno nevarnost hudih nesreč.
V nekaterih situacijah je morda celo strateško koristno namerno narediti določeno tehnologijo ali nadzorni sistem tvegano, na primer ustvariti "temeljno nepredvidljivo grožnjo, v kateri je vedno element naključja" - (Schelling 1960).
7. Nekaj nepričakovanega
Potrebujemo tako združljivo kategorijo. Neumno bi bilo verjeti, da smo vse pomembne grožnje že izumili in napovedovali. Prihodnja tehnološka ali znanstvena odkritja bi zlahka ustvarila nove načine za uničenje sveta.
Nekatere predvidljive nevarnosti (in s tem ne iz te kategorije) so bile izključene s seznama eksplozij zaradi dejstva, da se zdijo preveč verjetni vzroki globalne katastrofe, in sicer: sončni žarki, supernove, eksplozije in združitve črnih lukenj, gama žarkov, izbruhi galaktičnega središča, supervulkani, izguba biotske raznovrstnosti, povečano onesnaževanje zraka, postopna izguba človeške sposobnosti za razmnoževanje in številni verski scenariji obsojenega dne. Hipoteza, da bomo nekega dne dosegli "razsvetljenje" in naredili kolektivni samomor ali se prenehali množiti, kot se zavzema upanje VHEMT (Prostovoljno človeško izumrtje) (Knight 2001), ni verjetno. Če res,bolje bi bilo, da ne obstaja (kot je Silenus kralju Midasu pripovedoval v grškem mitu in kot je trdil Arthur Schopenhauer (Schopenhauer 1891), čeprav zaradi razlogov, značilnih za njegov določen filozofski sistem, ni sam vznemiril za samomor), potem tega scenarija ne bi obravnavali kot globalnega katastrofa. Predpostavko, da biti živ ni slaba stvar, je treba v definiciji eksplozij razumeti kot implicitno predpostavko. Lažni splošni samomor obstaja tveganje za obstoj, čeprav se njegova verjetnost zdi zelo majhna. (Več o etiki izumrtja ljudi glej poglavje 4 (Leslie 1996: 26).)da biti živ ni slab, je treba razumeti kot implicitno domnevo v definiciji eksplozij. Lažni splošni samomor obstaja tveganje za obstoj, čeprav se njegova verjetnost zdi zelo majhna. (Več o etiki izumrtja ljudi glej poglavje 4 (Leslie 1996: 26).)da biti živ ni slab, je treba razumeti kot implicitno domnevo v definiciji eksplozij. Lažni splošni samomor obstaja tveganje za obstoj, čeprav se njegova verjetnost zdi zelo majhna. (Več o etiki izumrtja ljudi glej poglavje 4 (Leslie 1996: 26).)
8. Nesreče kot posledica fizičnih poskusov
Oblikovalci atomske bombe Manhattan Project so bili zaskrbljeni, da bi eksplozija vžgala ozračje sodobnih kolegov.
Pojavljajo se ugibanja, da lahko poskusi na prihodnjih pospeševalcih visokoenergijskih delcev povzročijo uničenje metastabilnega stanja vakuuma, v katerem je morda naš kozmos, in ga spremeni v "pravi" vakuum z nižjo energijsko gostoto (Coleman, Luccia 1980: 3305-3315). To bo ustvarilo razširjajoči se mehurček popolnega uničevanja, ki se bo s svetlobno hitrostjo širil po celotni galaksiji in naprej, raztrgal pa bo vso snov.
Druga ideja je, da bi pospeševalniki pospeševalcev lahko ustvarili negativno nabito, stabilno "čudno" (hipotetično obliko jedrske snovi) ali ustvarili mikroskopsko črno luknjo, ki se zanese v središče Zemlje in začne porabljati preostali del planeta (Dar et al. 1999: 142-148). Takšni scenariji se zdijo nemogoči na podlagi naših najboljših teorij fizike. Toda vzrok za to, je, da ne vemo, kaj se bo v resnici zgodilo. Veliko bolj prepričljiv dokaz je, da so energijske gostote, ki jih je mogoče doseči v sodobnih pospeševalnikih, precej nižje od tistih, ki jih najdemo v naravi pri trčenju kozmičnih žarkov (Dar in sod. 1999: 142-148; Turner, Wilczek 1982: 633-634). Možno pa je,da so za te hipotetične procese pomembni še drugi dejavniki, razen gostote energije, in ti dejavniki bodo združeni v prihodnjih novih poskusih.
Glavni vzrok za zaskrbljenost zaradi "fizičnih nesreč" je opazovanje na ravni ravni, da se odkritja vseh vrst nevarnih fizičnih pojavov dogajajo ves čas, tako da tudi če so zdaj vse fizične nesreče, o katerih mislimo, popolnoma neverjetne ali nemogoče, še vedno lahko Obstajajo bolj realistične poti do katastrofe, ki čakajo, da jih odkrijemo. Navedene tukaj niso nič drugega kot ponazoritve splošnega primera.
9. Naravna bolezen
Kaj pa, če bi bil aids nalezljiv kot navadni prehlad?
V sodobnem svetu je več značilnosti, ki bi lahko globalno pandemijo naredile veliko bolj verjetno kot kdaj koli prej. Potovanja, trgovina s hrano in mestno življenje so se v sodobnem času znatno povečali, zaradi česar je nova bolezen hitro okužila večino svetovnega prebivalstva.
10. Trk z asteroidom ali kometom
Obstaja resnično, vendar zelo majhno tveganje, da nas bodo iztrebili asteroidi ali kometi (Morrison in sod., 1994).
Da bi prišlo do izumrtja človeštva, bo morda prizadeto telo premera več kot 1 km (in verjetno 3-6 km.) Udeležilo se je vsaj pet, morda več kot ducatov množičnih izumiranj na Zemlji in vsaj nekateri so verjetno povzročili trke. (Leslie 1996: 81 f). Zlasti izumrtje dinozavrov pred 65 milijoni let je bilo povezano s padcem asteroida premera 10-15 km na polotoku Jukatan. Menijo, da telo v premeru 1 km ali več trči v Zemljo v povprečju enkrat na pol milijona let. Do zdaj smo katalogizirali le majhen del potencialno nevarnih teles.
Če bomo pravočasno lahko opazili bližajoče se telo, ga bomo imeli dobro, če ga bomo prestregli z jedrsko raketo (Gold 1999).
11. Neustavljivo globalno segrevanje
Obstaja scenarij, da je lahko izpust toplogrednih plinov v ozračje proces z močno pozitivno povratno informacijo. Mogoče se je to zgodilo z Venero, ki ima zdaj vzdušje in temperaturo 450 ° C. Upajmo pa, da bomo imeli tehnološka sredstva, da se zoperstavimo temu trendu, ko bo postal resnično nevaren.
Nick Bostrom