Skoraj vsi, ki so se celo malo potopili v temo umetne inteligence, morajo ugotoviti, da nas bo umetna inteligenca bodisi pripeljala do strašne apokalipse bodisi neposredno do čudovite utopije. In vmesnih možnosti praktično ni. Seveda to deloma narekuje dejstvo, da so glasni slogani, kot je "Konec je blizu!" ali na primer "Utopija prihaja!" Ampak še vedno…
Delno je odvisno od tega, kako ljudje občutijo spremembe, zlasti velike spremembe. Milenizem nima nič skupnega s tem, da se je rodil v devetdesetih, bil "milenijcem" in se spominjal serije o zmagovalki vampirke Buffy. To je slog razmišljanja o prihodnosti, ki je povezan z globoko zakoreninjenim občutkom za usodo. Tisočletje je "pričakovanje, da bo naš svet uničen in nadomeščen s popolnim svetom in da se bo pojavil odrešitelj, ki bo podrl vse zlo in lahko potolažil pravične."
V skladu s tem verovanja tisočletnikov tesno povezujejo ideje ustvarjanja in uničenja. Med njimi - ideje o apokaliptičnih, ogromnih potresnih premikih, ki lahko uničijo tkivo starega sveta in zgradijo nekaj povsem novega. Podoben sistem prepričanj obstaja v mnogih večjih svetovnih religijah in celo v ne tako zelo agnostičnih in ateističnih religijah, ki bolj verjamejo v tehnologijo kot v božanske esence.
Poglejmo na primer, kako futuristi predvidevajo tehnološko singularnost. Po Rayu Kurzweilu je singularnost podobna ustvarjanju raja. Vsi bodo nesmrtni, ker se bo pojavila biotehnologija, ki lahko zdravi naše bolezni; in naše možgane lahko naložimo v oblak; trpljenje in neenakost bosta izginila kot pojav. »Uničenje sveta« nadomešča najljubši izraz Silicijeve doline: motnje, kar je korenita sprememba v industriji. Tako kot pri drugih tisočletnih prepričanjih je tudi vaš končni pogled močno odvisen od tega, kaj pričakujete: rojstva utopije ali konca sveta.
Obstaja veliko zelo dobrih razlogov, da bi bili skeptični glede tovrstnega mišljenja. Morda je najbolj prepričljiv med temi razlogi, da vsa prepričanja tisočletnikov preprosto odražajo odnos ljudi do sprememb; samo poglejte, koliko različic teh prepričanj je zraslo na svetu.
Ta prepričanja najdemo v vidikih krščanske teologije, čeprav so v sodobni obliki postali priljubljeni v devetnajstem in dvajsetem stoletju. Ideje, kot so večna žalost, dolgoletna stiska in trpljenje in vnebovzetje, ko bodo pravičniki obujeni in zlo kaznovani. Po vsem tem uničenju bo svet ponovno ustvarjen ali pa bodo ljudje šli v nebesa.
Kljub dogmatičnemu ateizmu je bilo tudi v marksizmu veliko podobnih prepričanj. Vprašanje je samo v zvezi z zgodovino. Tako kot verniki iščejo signale, ki bi lahko namignili na izpolnitev vseh prerokb, tudi marksisti iščejo znake, da smo v končni fazi kapitalizma. Verjamejo, da se družba ponižuje in se bo neizogibno izrodila do samega dna - pravzaprav, kot mislijo tudi kristjani.
Kot trdi marksizem, kadar je izkoriščanje delavskega razreda s strani bogatih nestabilno, se delavski razred zbere in strmoglavi zatiralca. "Žalost" se nadomesti z "revolucija". Včasih so revolucionarji, kot sta Lenin ali Marx sam, razglašeni za mesije, ki približujejo tisočletje; njihova retorika vedno vsebuje pozive k uničenju starega sistema, na ruševinah katerega "bomo zgradili svojega, zgradili bomo nov svet". Pravični delavci bodo dobili tisto, kar si zaslužijo, in zla buržoazija bo uničena.
Promocijski video:
Tudi v nordijski mitologiji obstaja del tega, kot je opozoril James Hughes v svojem eseju v knjigi Nicka Bostroma Global Catastrophic Risks. V Ragnaroku so v zadnji apokaliptični bitki poraženi tako ljudje kot bogovi, a ker je vse skupaj nekoliko mračno, so Skandinavci dodali idejo o novi deželi, na kateri bodo preživeli živeli v sožitju.
Doomsday je postal tudi kulturna pot. Vzemimo starodavne Egipčane in njihova prepričanja o posmrtnem življenju; gospodar podzemlja Oziris tehta srce smrtnika skupaj s peresom. Če je srce pokojnika preveč obteženo zaradi prestopkov, ga bo demon pojedel in upanje za posmrtno življenje bo izginilo.
Verjetno se bo kaj podobnega zgodilo med singularnostjo. Ko se bo naša tehnologija izpopolnjevala in se bodo naša moč, naša srca, srca ljudi stehtala pred perjem. Če se izkažejo za pretežke - z neumnostjo, aroganco, predsodki, zlom - bomo padli na preizkusu in bili uničeni. Če pa gremo skozi in izstopimo iz singularnosti, nas čakajo nebesa. Tako kot pri drugih sistemih prepričanj tudi za nevernike ni prostora; cela družba se bo radikalno spremenila, če vam bo všeč ali ne. Tehnološko občudovanje.
Zdi se, da vsak pomembnejši razvoj sproži podoben odziv. In tudi jedrsko orožje. Ali bo to zadnja slama in bomo uničili sebe ali pa bomo jedrsko energijo uporabili za ustvarjanje boljšega sveta. V prvih dneh jedrske dobe so ljudje govorili o električni energiji, "prepoceni, da bi jo lahko šteli". Znanstveniki, ki so delali na bombi, so pogosto mislili, da bi se morali s tako uničujočo močjo v rokah ljudi preprosto zbrati in kot vrsta sodelovati.
Ko vedno znova vidimo enak odgovor v različnih okoliščinah, ki se pojavlja na različnih področjih, najsi bo to znanost, politika ali religija, moramo upoštevati človeško pristranskost. Obožujemo prepričanja tisočletnikov, zato, ko se pojavi ideja o umetni inteligenci, ki presega človeško inteligenco, takoj naložimo znani vzorec.
Ne maramo dejstev. Informacije nam niso všeč. Nismo tako racionalni, kot mislimo, da smo. Ustvarjamo pripovedi. Fiziki opazujemo svet, mi pa svoja lastna opazovanja tkamo v pripovedne teorije, zgodbe o drobnih biljardnih kroglah, ki letijo sem ter tja in trčijo med seboj, ali o prostoru in času, ki se upogne, upogne in razširi. Zgodovinarji poskušajo osmisliti neskončen tok dogodkov. Obožujemo zgodbe: zgodbe predstavljajo našo preteklost, sedanjost in nas pripravljajo tudi na prihodnost.
Tisočletna pripoved je zelo lepa in prepričljiva. Prinaša vam družbene spremembe. Če žališ, lahko opraviči tvoje vsakodnevno trpljenje. Daje vam upanje, da je vaše življenje pomembno in smiselno. Daje vam občutek, da stvari napredujejo v določeni smeri, v skladu s pravili in ne samo v kaosu. Obljublja, da bodo pravični rešeni, krivoverci pa kaznovani, četudi je na poti trpljenje. Končno, tisočletna pripoved obljublja nebesa na koncu predora.
Pri tisočletni pripovedi moramo biti previdni, ko razmišljamo o tehnološkem razvoju, singularnosti in eksistencialnih tveganjih. Velikokrat smo kričali »volkovi!«, Ko jih ni bilo. Morda tudi zdaj svet ni na robu katastrofe. Ta zgodba seveda ni tako privlačna. Seveda si vsi želijo očarljivega konca.
Toda poglobite se in ugotovili boste, da tisočletna prepričanja niso vedno najbolj obetavna, ker človeška sredstva izločijo iz enačbe. Morali bomo verjeti v sive odtenke in opustiti zlovešč apokalipso z rdečeoko umetno inteligenco in čudovito utopijo z vsemogočno umetno inteligenco, ki obožuje ljudi.