Pred vami je drugi del članka iz serije "Počakaj, kako je vse to lahko resnično, zakaj se še vedno ne govori na vsakem vogalu." V prejšnji seriji je postalo znano, da eksplozija inteligence postopoma priplava do ljudi planeta Zemlje, poskuša se razviti iz ozko usmerjene v univerzalno inteligenco in končno tudi umetno nadinteligenco.
"Morda se srečujemo z izredno težavno težavo in ni znano, koliko časa je namenjenega njeni rešitvi, vendar bo od njene rešitve morda odvisna prihodnost človeštva." - Nick Bostrom.
Prvi del članka se je začel dovolj nedolžno. Razpravljali smo o ozko usmerjeni umetni inteligenci (AI, ki je specializirana za reševanje enega konkretnega problema, kot je določanje poti ali igranje šaha), v našem svetu je tega veliko. Nato so analizirali, zakaj je tako težko gojiti splošno usmerjeno umetno inteligenco (AGI ali AI, ki se po intelektualnih zmožnostih pri reševanju katere koli težave lahko primerja s človeško). Ugotovili smo, da eksponentni tempo tehnološkega napredka namiguje, da bo AGI morda že kmalu za vogalom. Na koncu smo se odločili, da se lahko takoj, ko stroji dosežejo človeško inteligenco, zgodi naslednje:
Kot običajno gledamo v zaslon, ne verjamemo, da se lahko v času našega življenja pojavlja umetna superinteligenca (ISI, ki je veliko pametnejša kot katera koli oseba), in izbiramo čustva, ki bi glede tega vprašanja najbolje odražala naše mnenje.
Promocijski video:
Preden se potopimo v posebnosti ISI, se spomnimo, kaj pomeni, da je stroj super inteligenten.
Glavna razlika je med hitro nadinteligenco in kakovostno superinteligenco. Pogosto je prva stvar, ki pride na misel pri razmišljanju o nadinteligentnem računalniku, ta, da lahko razmišlja veliko hitreje kot človek - na milijone krat hitreje, in v petih minutah bo dojel, kaj bi človeku potrebovalo deset let. ("Vem, da kung fu!")
Sliši se impresivno in ISI bi res moral razmišljati hitreje kot kdo od ljudi - toda glavna ločitev bo kakovost njegovega intelekta, kar je čisto drugo. Ljudje so veliko pametnejši od opic, pa ne zato, ker razmišljajo hitreje, temveč zato, ker njihovi možgani vsebujejo številne domiselne kognitivne module, ki izvajajo zapletene jezikovne reprezentacije, dolgoročno načrtovanje, abstraktno razmišljanje, česar opice niso sposobne. Če tisočkrat pospešite možgane opice, ne bodo postali pametnejši od nas - tudi po desetih letih ne bo mogel sestaviti konstruktorja po navodilih, ki bi človeku potreboval največ nekaj ur. Obstajajo stvari, ki se jih opica nikoli ne bo naučila, ne glede na to, koliko ur preživi ali kako hitro delujejo možgani.
Poleg tega opica ne ve, kako človeško, saj njeni možgani preprosto niso sposobni spoznati obstoja drugih svetov - opica morda ve, kaj je človek in kaj nebotičnik, vendar nikoli ne bo razumela, da so nebotičnik zgradili ljudje. V njenem svetu vse pripada naravi in maka ne more samo zgraditi nebotičnika, ampak tudi razume, da ga lahko kdo gradi. In to je posledica majhne razlike v kakovosti inteligence.
V splošni shemi inteligence, o kateri govorimo, ali preprosto po standardih bioloških bitij, je razlika v kakovosti inteligence med ljudmi in opicami majhna. V prejšnjem članku smo na lestvico postavili biološko kognitivne sposobnosti:
Če želite razumeti, kako resen je superinteligenten stroj, ga postavite dve zarezi višje od osebe na tej lestvi. Ta stroj je morda le malo superinteligenten, vendar bo njegova superiornost nad našimi kognitivnimi sposobnostmi enaka kot naša - nad opicami. In tako kot šimpanzi nikoli ne bodo razumeli, da je mogoče zgraditi nebotičnik, tudi nikoli ne bomo razumeli, kaj bo stroj razumel nekaj korakov višje, tudi če nam ga stroj poskuša razložiti. Toda to je le nekaj korakov. Pametnejši stroj bo v nas videl mravlje - dolga leta nas bo naučil najpreprostejših stvari s svojega položaja in ti poskusi bodo popolnoma brezupni.
Vrsta superinteligencije, o kateri bomo govorili danes, je daleč zunaj te lestvice. To je eksplozija inteligence - ko postane pametnejši avto, hitreje lahko poveča lastno inteligenco in postopoma povečuje zagon. Lahko traja leta, da bi takšen stroj presegel šimpanze v inteligenci, morda pa nekaj ur, da nas preseže za nekaj korakov. Od tega trenutka lahko avto že vsako sekundo skoči čez štiri korake. Zato bi morali razumeti, da se bomo kmalu po tem, ko se pojavijo prve novice, da je stroj dosegel raven človeške inteligence, morda soočili z resničnostjo sobivanja na Zemlji z nečim, kar bo na tej lestvi precej višje od nas (ali morda in milijone krat več)
In ker smo ugotovili, da je popolnoma nekoristno poskušati razumeti moč stroja, ki je le dva koraka nad nami, določimo enkrat za vselej, da ni možnosti, da bi razumeli, kaj bo naredil ISI in kakšne bodo posledice tega za nas. Kdor trdi nasprotno, preprosto ne razume, kaj pomeni superinteligenca.
Evolucija se skozi stotine milijonov let počasi in postopno razvija v možganih in če ljudje ustvarijo nadinteligentni stroj, bomo v nekem smislu presegli evolucijo. Ali pa bo del evolucije - morda evolucija deluje tako, da se inteligenca razvija postopoma, dokler ne doseže prelomnice, ki napoveduje novo prihodnost za vsa živa bitja:
Zaradi razlogov, o katerih bomo razpravljali pozneje, velik del znanstvene skupnosti meni, da vprašanje ni v tem, ali bomo prišli do te prelomne točke, ampak kdaj.
Kje bomo končali po tem?
Mislim, da nihče na tem svetu, ne jaz ne ti ne bova mogla povedati, kaj se bo zgodilo, ko dosežemo prelomno točko. Oxfordski filozof in vodilni teoretik AI Nick Bostrom verjame, da lahko vse možne rezultate združimo v dve široki kategoriji.
Najprej, če pogledamo zgodovino, o življenju vemo naslednje: vrste se pojavljajo, obstajajo določen čas, nato pa neizogibno padejo iz ravnovesja življenja in izumrejo.
"Vse vrste izumrejo" je bilo v zgodovini enako zanesljivo pravilo kot "vsi ljudje umrejo nekega dne." 99,9% vrst je padlo iz dnevnika življenja in jasno je, da če vrsta predolgo visi na tem logu, bo puh naravnega vetra ali nenadni asteroid obrnil hlod. Bostrom imenuje izumrtje stanje privlačnosti - kraj, kjer vse vrste uravnotežijo, da ne bi padle, kamor se ni vrnila nobena vrsta.
In čeprav večina znanstvenikov priznava, da bo ISI zmožen obsojati ljudi na izumrtje, mnogi tudi verjamejo, da bo uporaba zmogljivosti ISI omogočila posameznikom (in vrstam kot celoti), da dosežejo drugo stanje privlačnosti - nesmrtnost vrst. Bostrom verjame, da je nesmrtnost vrste toliko privlačna kot izumrtje vrste, torej če bomo prišli do tega, bomo obsojeni na večni obstoj. Tako bi, tudi če so vse vrste do zdaj padle s te palice v vrtine izumrtja, Bostrom verjame, da ima hlod dve strani, na Zemlji pa preprosto ni videti takšne inteligence, ki bi razumela, kako pasti na drugo stran.
Če imata Bostrom in drugi prav in glede na vse informacije, ki so nam na voljo, so morda res tako, moramo sprejeti dve zelo šokantni dejstvi:
1. Pojav ISI, prvič v zgodovini, bo odprl možnost, da vrsta doseže nesmrtnost in izpade iz usodnega cikla izumrtja.
2. Pojav ISI bo imel tako nepredstavljivo velik vpliv, da bo človeštvo najverjetneje potisnilo ta svet v eno ali drugo smer.
Mogoče je, da ko evolucija doseže tako prelomno točko, vedno konča odnos ljudi s tokom življenja in ustvari nov svet, z ljudmi ali brez njih.
To sproži zanimivo vprašanje, ki si ga ne bi zastavil le branik: Kdaj bomo prišli do te prelomne točke in kam nas bo postavil? Nihče na svetu ne pozna odgovora na to dvojno vprašanje, vendar so mnogi pametni ljudje to poskušali ugotoviti že desetletja. Za preostanek članka bomo ugotovili, od kod prihajajo.
* * *
Začnimo s prvim delom tega vprašanja: kdaj naj dosežemo prelomno točko? Z drugimi besedami: koliko časa ostane, dokler prvi stroj ne doseže superinteligencije?
Mnenja se razlikujejo od primera do primera. Mnogi, med njimi profesor Vernor Vinge, znanstvenik Ben Herzel, soustanovitelj Sun Microsystems Bill Joy, futurist Ray Kurzweil, so se strinjali s strokovnjakom za strojno učenje Jeremyjem Howardom, ko je na TED Talk predstavil naslednji graf:
Ti ljudje so mnenja, da ISI kmalu prihaja - ta eksponentna rast, ki se nam danes zdi počasna, bo v naslednjih desetletjih dobesedno eksplodirala.
Drugi, kot so soustanovitelj Microsofta Paul Allen, raziskovalni psiholog Gary Marcus, računalniški strokovnjak Ernest Davis in tehnološki podjetnik Mitch Kapor, menijo, da misleci, kot je Kurzweil, resno podcenjujejo razsežnost problema in mislijo, da nismo niti približno tako blizu prelomne točke.
Kurzweilov tabor trdi, da je edino podcenjevanje, ki se zgodi, ignoriranje eksponentne rasti, dvomljivci pa se lahko primerjajo s tistimi, ki so leta 1985 gledali na počasi cvetoči internet in trdili, da to v bližnji prihodnosti ne bo vplivalo na svet.
Dvomljivci se lahko odzovejo, da je za napredek težje narediti vsak naslednji korak, ko gre za eksponentni razvoj inteligence, ki nevtralizira značilno eksponentno naravo tehnološkega napredka. Itd.
Tretji tabor, v katerem je Nick Bostrom, se ne strinja niti s prvim niti z drugim in trdi, da: a) se vse to lahko v kratkem zgodi; in b) ni nobenega zagotovila, da se bo to sploh zgodilo ali da bo trajalo dlje.
Drugi, kot filozof Hubert Dreyfus, verjamejo, da vse tri skupine naivno verjamejo, da bo sploh prišlo do preobrata in da na ISI najverjetneje ne bomo nikoli prišli.
Kaj se zgodi, ko sestavimo vsa ta mnenja?
Leta 2013 je Bostrom izvedel raziskavo, v kateri je med nizom konferenc na naslednjo temo opravil intervju s stotimi strokovnjaki s področja umetne inteligence: "Kakšne bodo vaše napovedi o doseganju AGI na človeški ravni?" in nas prosil, da poimenujemo optimistično leto (v katerem bomo imeli AGI z 10-odstotno možnostjo), realno predpostavko (leto, v katerem bomo imeli AGI s 50-odstotno verjetnostjo) in samozavestno domnevo (prvo leto, v katerem se bo AGI pojavil od leta 90 -odstotek verjetnosti). Tu so rezultati:
- Povprečno optimistično leto (10%): 2022
- Povprečno realno leto (50%): 2040
- Povprečno pesimistično leto (90%): 2075
Povprečni anketiranci verjamejo, da bomo čez 25 let imeli AGI kot ne. 90-odstotna možnost, da se bo AGI zgodil do leta 2075, pomeni, da se bo to, če ste zdaj še precej mladi, najverjetneje zgodilo v vašem življenju.
Ločena študija, ki sta jo pred kratkim opravila James Barratt (avtor priznane in zelo dobre knjige Naša zadnja iznajdba, odlomki, iz katerih sem seznanil bralce Hi-News.ru) in Ben Hertzel na letni konferenci AGI, na konferenci AGI, sta preprosto pokazala mnenja ljudi glede na leto, ko pridemo do AGI: 2030, 2050, 2100, kasneje ali nikoli. Tu so rezultati:
- Do leta 2030: 42% vprašanih
- Do leta 2050: 25%
- Do leta 2100: 20%
- Po letu 2100: 10%
- Nikoli: 2%
Podobno kot pri rezultatih Bostroma. V Barrattovi anketi je več kot dve tretjini vprašanih meni, da bo AGI tu do leta 2050, manj kot polovica pa meni, da se bo AGI pojavil v naslednjih 15 letih. Prav tako je presenetljivo, da le 2% vprašanih načeloma ne vidi AGI v naši prihodnosti.
Toda AGI ni prelomna točka, kot je ISI. Kdaj bomo po mnenju strokovnjakov imeli ISI?
Bostrom je strokovnjake vprašal, kdaj bomo prišli do ASI: a) dve leti po doseganju AGI (torej skoraj v trenutku zaradi eksplozije inteligence); b) po 30 letih. Rezultati?
Povprečno mnenje je, da se bo hiter prehod iz AGI na ISI zgodil z 10-odstotno verjetnostjo, vendar bo čez 30 let ali manj s 75-odstotno verjetnostjo.
Iz teh podatkov ne vemo, na kateri datum bi anketiranci poklicali 50-odstotno možnost ASI, vendar na podlagi zgornjih dveh odgovorov predpostavimo, da traja 20 let. To pomeni, da vodilni svetovni strokovnjaki za AI verjamejo, da bo prelomnica prišla leta 2060 (AGI se bo pojavil leta 2040 + za prehod s AGI na ISI bo potrebnih 20 let).
Seveda so vse zgornje statistike špekulativne in samo predstavljajo mnenje strokovnjakov s področja umetne inteligence, vendar tudi poudarjajo, da se večina zadevnih ljudi strinja, da bo do leta 2060 verjetno prišel AI. V samo 45 letih.
Pojdimo na drugo vprašanje. Ko pridemo do prelomne točke, katera stran usodne izbire nas bo določila?
Superinteligenca bo imela najmočnejšo moč, kritično vprašanje za nas pa bo naslednje:
Kdo ali kaj bo nadziral to moč in kakšna bo njihova motivacija?
Odgovor na to vprašanje bo odvisen od tega, ali ISI dobi neverjetno močan razvoj, neizmerno grozljiv razvoj ali nekaj vmes.
Seveda pa strokovna skupnost skuša odgovoriti tudi na ta vprašanja. Bostromova anketa je analizirala verjetnost možnih posledic vpliva AGI na človeštvo in pokazalo se je, da bo z 52-odstotno možnostjo vse šlo zelo dobro in z 31-odstotno možnostjo, da bo šlo vse slabo ali izjemno slabo. Anketa, priložena na koncu prejšnjega dela te teme, izvedena med vami, dragi bralci oddaje Hi-News, je pokazala približno enake rezultate. Za razmeroma nevtralen izid je bila verjetnost le 17%. Z drugimi besedami, vsi verjamemo, da bo AGI velika stvar. Omeniti velja tudi, da se ta raziskava nanaša na pojav AGI - v primeru ISI bo odstotek nevtralnosti nižji.
Preden se poglobimo v razmišljanje o dobrih in slabih straneh vprašanja, združimo obe strani vprašanja - "kdaj se bo to zgodilo?" in "je to dobro ali slabo?" v tabelo, ki zajema stališča večine strokovnjakov.
O glavnem kampu se bomo pogovorili čez minuto, najprej pa se odločite za svoj položaj. Najverjetneje ste na istem mestu, kjer sem bil jaz, preden sem začel delati to temo. Obstaja več razlogov, zakaj ljudje sploh ne razmišljajo o tej temi:
- Kot smo omenili v prvem delu, so filmi resno zmedli ljudi in dejstva ter predstavili nerealne scenarije z umetno inteligenco, kar je privedlo do tega, da AI sploh ne bi smeli jemati resno. James Barratt je primerjal to situacijo, ki so jo izdali centri za nadzor bolezni (CDC) z resnim opozorilom o vampirjih v naši prihodnosti.
- Zaradi tako imenovanih kognitivnih pristranskosti nam je zelo težko verjeti, da je nekaj resnično, dokler ne bomo imeli dokazov. Zagotovo si lahko predstavljamo, da računalničarji iz leta 1988 redno razpravljajo o daljnosežnih posledicah interneta in o tem, kaj bi lahko postal, vendar ljudje komaj verjeli, da jim bo to spremenilo življenje, dokler se to dejansko ne bo zgodilo. Leta 1988 računalniki niso vedeli, kako to storiti, in ljudje so samo gledali v svoje računalnike in si mislili: "Res? Je to tisto, kar bo spremenilo svet? " Njihove domišljije so bile omejene s tem, kar jih je naučila njihova osebna izkušnja, vedeli so, kaj je računalnik, in težko si je bilo predstavljati, kaj bo računalnik sposoben v prihodnosti. Enako se dogaja zdaj z AI. Slišali smo, da bo to postala resna stvarker pa se s tem še nismo srečali iz oči v oči in na splošno opazimo precej šibke manifestacije AI v našem sodobnem svetu, je težko verjeti, da bo korenito spremenil naše življenje. Proti tem predsodkom nasprotujejo številni strokovnjaki iz vseh taborov, pa tudi zainteresirani, da bi skušali pritegniti našo pozornost s hrupom vsakdanjega kolektivnega egocentrizma.
- Tudi če bi verjeli v vse to - kolikokrat ste danes pomislili na to, da boste preostanek večnosti preživeli v ničemer? Malo, se strinjam. Tudi če je to dejstvo veliko bolj pomembno kot vse, kar počnete iz dneva v dan. To je zato, ker so naši možgani običajno osredotočeni na majhne vsakdanje stvari, ne glede na to, kako dolgotrajni položaj se znajdemo. Samo da smo narejeni.
Eden od ciljev tega članka je, da vas izpustijo iz tabora, imenovanega »Rad razmišljam o drugih stvareh«, in vas postavim v taborišče strokovnjakov, četudi samo stojite na križišču med dvema črtkanima črtama v zgornjem polju, popolnoma neodločen.
V času raziskav postane očitno, da mnenja večine ljudi hitro padejo proti "glavnemu taboru", tri četrtine strokovnjakov pa pade v dva podkampa v glavnem taboru.
Oba tabora bomo obiskali v celoti. Začnimo z zabavo.
Zakaj bi lahko bile naše največje sanje prihodnost?
Medtem ko raziskujemo AI svet, v našem območju udobja zasledimo presenetljivo veliko ljudi. Ljudje v zgornjem desnem kvadratu brenčijo od navdušenja. Verjamejo, da bomo padli na dobro stran hloda, prav tako verjamejo, da bomo do tega neizogibno prišli. Zanje je prihodnost le najboljše, o čemer človek lahko samo sanja.
Bistvo, ki te ljudi razlikuje od drugih mislecev, ni v tem, da bi radi bili na srečni strani, ampak v tem, da so prepričani, da nas čaka.
To zaupanje izhaja iz polemike. Kritiki verjamejo, da izvira iz osupljivega navdušenja, ki zasenči potencialne negativne strani. Toda zagovorniki pravijo, da so mračne napovedi vedno naivne; tehnologija se nadaljuje in nam bo vedno pomagala več kot škodila.
Lahko izberete katero koli od teh mnenj, a odložite skepticizem in si dobro oglejte srečno stran snopa, s čimer poskušate sprejeti dejstvo, da se je vse, kar berete o njem, že zgodilo. Če bi lovcem nabiralcem pokazal naš svet udobja, tehnologije in neskončnega obilja, bi se jim to zdelo čarobna fikcija - in obnašamo se dokaj skromno, ne moremo priznati, da nas čaka enaka nerazumljiva preobrazba v prihodnosti.
Nick Bostrom opisuje tri poti, ki jih lahko vodi superinteligentni sistem AI:
Proročica, ki lahko odgovori na vsako natančno vprašanje, vključno s kompleksnimi vprašanji, na katera človek ne more odgovoriti - na primer, "kako narediti avtomobilski motor učinkovitejši?" Google je primitivna vrsta "oracle".
Genij, ki bo izvedel kateri koli ukaz na visoki ravni - z uporabo molekularnega monterja ustvaril novo, učinkovitejšo različico avtomobilskega motorja - in počakal na naslednji ukaz.
Suveren, ki bo imel širok dostop in možnost svobodnega delovanja v svetu, sam sprejema svoje odločitve in izboljšuje postopek. Izmislil si bo cenejši, hitrejši in varnejši način zasebnega prevoza kot avtomobil.
Ta vprašanja in naloge, ki se nam zdijo težke, se zdijo superinteligentnemu sistemu, kot da bi nekdo zahteval, da izboljša stanje "moj svinčnik je padel z mize", v katerem bi ga preprosto dvignili in dali nazaj.
Eliezer Yudkowski, ameriški strokovnjak za umetno inteligenco, je dodal:
"Ni težkih težav, ampak le težave, ki so težke za določeno raven inteligence. Pojdite še korak višje (v smislu inteligence) in nekatere težave se bodo nenadoma premaknile iz kategorije "nemogoče" v tabor "očitnih". Korak višje - in vsi bodo postali očitni."
Obstaja veliko nestrpnih znanstvenikov, izumiteljev in podjetnikov, ki so na svoji mizi izbrali cono samozavestnega udobja, vendar potrebujemo le enega vodnika, ki bo lahko stopil na najboljše v tem najboljšem svetu.
Ray Kurzweil je dvoumen. Nekateri idolizirajo njegove ideje, nekateri zaničujejo. Nekateri ostanejo na sredini - Douglas Hofstadter, ki je razpravljal o idejah Kurzweilovih knjig, je zgovorno opozoril, da je "tako, kot če bi vzeli veliko dobre hrane in malo pasjega psa, nato pa vse pomešali tako, da je nemogoče razumeti, kaj je dobro in kaj slabo".
Ne glede na to, ali so vam njegove ideje všeč ali ne, je nemogoče mimo njih brez sence zanimanja. Stvari je začel izumljati že kot najstnik, v naslednjih letih pa si je izmislil več pomembnih stvari, vključno s prvim ploščastim skenerjem, prvim skenerjem, ki je besedilo pretvoril v govor, znanim Kurzweilovim glasbenim sintetizatorjem (prvi pravi električni klavir) in prvim komercialno uspešnim prepoznavalcem govora. Je tudi avtor petih senzacionalnih knjig. Kurzweil je cenjen zaradi svojih drznih napovedi in njegove izkušnje so precej dobre - v poznih 80. letih, ko je bil internet še v povojih, je napovedoval, da bo splet do leta 2000 postal svetovni pojav. Časnik Wall Street Journal je Kurzweila označil za "nemirnega genija", Forbes pa "stroj za svetovno razmišljanje", Inc. Magazin - "Edisonov zakoniti dedič", Bill Gates - "najboljši izmed njihki napoveduje prihodnost umetne inteligence. " Leta 2012 je soustanovitelj Googla Larry Page povabil Kurzweila na mesto CTO. Leta 2011 je soustanovil univerzo Singularity, ki jo gosti NASA, delno pa sponzorira Google.
Njegova biografija je pomembna. Ko Kurzweil govori o svoji viziji prihodnosti, se sliši kot noro noro, a res noro pri tem je, da še zdaleč ni nor - je neverjetno pameten, izobražen in zdrav človek. Morda mislite, da se moti v svojih napovedih, vendar ni norec. Kurzweilove napovedi delijo številni strokovnjaki za območje udobja, Peter Diamandis in Ben Herzel. To misli, da se bo to zgodilo.
Kronologija
Kurzweil verjame, da bodo računalniki do leta 2029 dosegli raven splošne umetne inteligence (AGI), do leta 2045 pa ne bomo imeli le umetne nadinteligence, temveč tudi povsem nov svet - čas tako imenovane singularnosti. Njegova kronologija AI še vedno velja za pretirano pretirano, toda v zadnjih 15 letih je hiter razvoj visoko fokusiranih sistemov umetne inteligence (AI) prisilil številne strokovnjake, da se soočijo s Kurzweilom. Njegova predvidevanja so še vedno ambicioznejša od raziskave Bostroma (AGI do 2040, ISI do 2060), vendar ne veliko.
Kot navaja Kurzweil, tri istočasne revolucije v biotehnologiji, nanotehnologiji in, kar je še pomembneje, AI poganjajo singularnost leta 2045. Preden gremo še naprej - in nanotehnologija natančno sledi umetni inteligenci - si vzemimo nekaj minut za nanotehnologijo.
Nekaj besed o nanotehnologiji
Običajno imenujemo nanotehnološke tehnologije, ki se ukvarjajo z manipulacijo snovi v območju od 1 do 100 nanometrov. Nanometra je ena milijarda metra ali milijonina milimetra; v območju od 1 do 100 nanometrov se lahko namestijo virusi (premera 100 nm), DNA (10 nm v širino), molekule hemoglobina (5 nm), glukoza (1 nm) in več. Če bo nanotehnologija kdaj postala naša tema, bo naslednji korak manipulacija posameznih atomov, ki so manjši od enega vrstnega reda (~, 1 nm).
Da bi razumeli, kje ljudje naletijo na težave, ki poskušajo manipulirati z materijo v takem merilu, pojdimo na večji obseg. Mednarodna vesoljska postaja je 481 kilometrov nad Zemljo. Če bi bili ljudje velikani in bi z glavo udarili na ISS, bi bili 250.000-krat večji, kot so zdaj. Če kar 250 000 krat povečate od 1 do 100 nanometrov, dobite 2,5 centimetra. Nanotehnologija je ekvivalent človeka, ki kroži po ISS, ki poskuša manipulirati z velikostjo zrna peska ali zrkla. Za dosego naslednje stopnje - nadzor nad posameznimi atomi - mora velikan skrbno postaviti predmete s premerom 1/40 milimetra. Navadni ljudje bodo potrebovali mikroskop, da jih vidijo.
Richard Feynman je prvič govoril o nanotehnologiji leta 1959. Potem je rekel: "Načela fizike, kolikor lahko povem, ne govorijo proti možnosti, da bi se atom nadzoroval z atomom. Načeloma bi fizik lahko sintetiziral katero koli kemikalijo, ki jo je kemičar zapisal. Kako? S postavitvijo atomov tam, kjer kemičar pravi, da bi snov dobil. " V tem je celotna preprostost. Če veste, kako premikati posamezne molekule ali atome, lahko naredite skoraj vse.
Nanotehnologija je postala resno znanstveno področje leta 1986, ko je inženir Eric Drexler svoje temelje predstavil v svoji semenski knjigi Machines of Creation, a sam Drexler verjame, da bi morali tisti, ki želijo izvedeti več o sodobnih idejah nanotehnologije, prebrati njegovo knjigo iz leta 2013. Popolno bogastvo (radikalno bogastvo).
Ko pridemo do dna nanotehnologije, ga lahko uporabimo za ustvarjanje tehničnih pripomočkov, oblačil, hrane, bioproizvodov - krvnih celic, borcev virusov in raka, mišičnega tkiva itd. - karkoli že. In v svetu, ki uporablja nanotehnologijo, stroški materiala ne bodo več vezani na njegovo pomanjkanje ali zapletenost njegovega proizvodnega procesa, temveč na kompleksnost njegove atomske strukture. V svetu nanotehnologije bi bil diamant lahko cenejši od radirke.
Nismo še blizu. In ni povsem jasno, ali podcenjujemo ali precenjujemo kompleksnost te poti. Vendar vse sega do te mere, da nanotehnologija ni daleč. Kurzweil predvideva, da jih bomo do leta 2020 imeli. Svetovne države vedo, da lahko nanotehnologija obljublja veliko prihodnost, zato vanje vlagajo številne milijarde.
Samo predstavljajte si, kakšne možnosti bi superinteligenten računalnik dobil, če bi prišel do zanesljivega nanosilca. Toda nanotehnologija je naša ideja, in poskušamo jo uresničiti, težko nam je. Kaj pa, če bodo to le šala za sistem ISI in bo ISI sam pripravil tehnologije, ki bodo mnogokrat zmogljivejše od vsega, kar načeloma lahko domnevamo? Strinjali smo se: nihče si ne more predstavljati, česa vse bo sposobna umetna nadinteligenca? Menijo, da naši možgani niso sposobni napovedati niti najmanjšega, kaj se bo zgodilo.
Kaj bi lahko AI storil za nas?
ISI bo oborožen s superinteligenco in vso tehnologijo, ki bi jo lahko ustvarila superinteligenca, rešil vse človeške težave. Globalno segrevanje? ISI bo najprej ustavil emisije ogljika z izumom številnih učinkovitih nefosilnih goriv za proizvodnjo energije. Nato bo iznašel učinkovit, inovativen način za odstranjevanje odvečnega CO2 iz ozračja. Rak in druge bolezni? Ni problem - zdravstveno varstvo in medicina se bosta spremenila na načine, ki si jih je nemogoče predstavljati. Svetovna lakota? ISI bo uporabil nanotehnologijo za ustvarjanje mesa, ki je enako naravnemu, od nič, pravega mesa.
Nanotehnologija bo lahko kup smeti spremenila v kad s svežim mesom ali drugo hrano (sploh ne nujno v običajni obliki - predstavljajte si velikansko jabolčno kocko) in vso to hrano razdelila po svetu z uporabo naprednih transportnih sistemov. Seveda bo to super za živali, ki jim zaradi hrane ni več treba umreti. ISI lahko počne tudi marsikaj drugega, kot je ohranjanje ogroženih vrst ali celo vrnitev izumrlih vrst iz ohranjene DNK. ISI lahko reši naše najtežje makroekonomske težave - naše najtežje gospodarske razprave, etična in filozofska vprašanja, globalno trgovino - vse to bo ISI boleče očitno.
Je pa nekaj posebnega, kar bi ISI lahko naredil za nas. Privabljanje in mučenje, ki bi vse spremenilo: ISI nam lahko pomaga pri soočanju s smrtnostjo. Postopno razumevanje zmožnosti AI boste morda ponovno preučili vse svoje ideje o smrti.
Ni bilo razloga, da bi nam evolucija podaljšala življenjsko dobo dlje kot zdaj. Če živimo dovolj dolgo, da lahko rodimo in vzgajamo otroke do te mere, da se lahko sami borijo, je evolucije dovolj. Z evolucijskega vidika je 30+ let dovolj za razvoj in ni razloga, da mutacije podaljšajo življenje in zmanjšajo vrednost naravne selekcije. William Butler Yates je našo vrsto poimenoval "duša, navezana na umirajočo žival." Ni veliko zabave.
In ker nekega dne vsi umremo, živimo z mislijo, da je smrt neizogibna. Sčasoma razmišljamo o staranju - še naprej gremo naprej in ne moremo ustaviti tega procesa. Toda misel na smrt je izdajalska: zajeti jo pozabimo živeti. Richard Feynman je napisal:
"V biologiji je čudovita stvar: v tej znanosti ni ničesar, kar bi govorilo o nujnosti smrti. Če želimo ustvariti trajni stroj za gibanje, se zavedamo, da smo v fiziki našli dovolj zakonov, ki bodisi kažejo na nemožnost tega, bodisi da so zakoni napačni. Toda v biologiji ni ničesar, kar bi kazalo na neizogibnost smrti. To me privede do prepričanja, da ni tako neizogibno, in le vprašanje časa je, preden bodo biologi odkrili vzrok te težave, te grozne univerzalne bolezni, da jo bomo ozdravili."
Dejstvo je, da staranje nima nobene zveze s časom. Staranje je takrat, ko se fizični materiali telesa obrabijo. Tudi avtomobilski deli razpadajo - a je staranje neizogibno? Če nadaljujete s popravilom avtomobila, ko se deli obrabijo, bo trajal večno. Človeško telo ni nič drugače - samo bolj zapleteno.
Kurzweil govori o inteligentnih nanobotih, povezanih z Wi-Fi-jem, v krvni obtok, ki bi lahko opravljali nešteto nalog za zdravje ljudi, vključno z rednim popravljanjem ali nadomeščanjem dotrajanih celic kjerkoli v telesu. Izboljšanje tega procesa (ali iskanje alternative, ki jo predlaga pametnejši ASI) ne samo da ohranja telo zdravo, temveč lahko tudi staranje obrne. Razlika med telesom 60-letnika in 30-letnika je v peščici fizičnih težav, ki bi jih bilo mogoče popraviti s pravo tehnologijo. ISI bi lahko zgradil avto, v katerega bi človek vstopil, ko je star 60 let, in zapustil, ko je star 30 let.
Celo degradirane možgane bi bilo mogoče obnoviti. ISI bi zagotovo vedel, kako to storiti, ne da bi prizadel možganske podatke (osebnost, spomine itd.). 90-letni moški, ki trpi zaradi popolne razgradnje možganov, bi se lahko preusposobil, obnovil in se vrnil na začetek svojega življenja. Mogoče se zdi nesmiselno, toda telo je peščica atomov in ISI bi z njimi zagotovo z lahkoto upravljal, kakršne koli atomske strukture. Ni tako nesmiselno.
Kurzweil tudi verjame, da se bodo umetni materiali s časom bolj in bolj vključevali v telo. Za začetek bi organe lahko zamenjali s super naprednimi strojnimi različicami, ki bi trajale večno in nikoli ne bodo odpovedale. Potem bi lahko naredili popolno prenovo telesa in nadomeščali rdeče krvne celice s popolnimi nanobotiki, ki se premikajo sami, kar bi odpravilo potrebo po srcu. Lahko bi izboljšali tudi svoje kognitivne sposobnosti, hitreje začeli razmišljati milijarde in prek oblaka dostopati do vseh informacij, ki so na voljo človeštvu.
Možnosti za razumevanje novih obzorij bi bilo resnično neskončno. Ljudem je seks uspel podariti z novim namenom, to počnejo v užitek, ne samo za razmnoževanje. Kurzweil meni, da lahko s hrano storimo enako. Nanoboti bi lahko dovajali idealno prehrano neposredno v telesne celice, kar bi omogočilo, da nezdrave snovi prehajajo skozi telo. Teoretik nanotehnologije Robert Freitas je že razvil nadomestek za krvne celice, ki mu, ko se izvaja v človeškem telesu, ne morejo dihati 15 minut - in to si je izmislila oseba. Predstavljajte si, kdaj bo ISI dobil moč.
Konec koncev Kurzweil verjame, da bodo ljudje dosegli točko, ko bodo postali popolnoma umetni; čas, ko gledamo biološke materiale in razmišljamo o tem, kako primitivni so bili; čas, ko bomo brali o zgodnjih fazah človeške zgodovine, se čudili, kako bi lahko mikrobi, nesreče, bolezni ali preprosto starost človeka usmrtili proti njegovi volji. Navsezadnje bodo ljudje premagali lastno biologijo in postali večni - to je pot do srečne strani snopa ravnotežja, o katerem govorimo že od samega začetka. In ljudje, ki v to verjamejo, so tudi prepričani, da nas takšna prihodnost čaka zelo, zelo kmalu.
Verjetno ne boste presenečeni, da so Kurzweilove ideje izzvale ostre kritike. Njegova posebnost leta 2045 in poznejše večno življenje ljudi so poimenovali "vnebovzetje nerde" ali "inteligentno ustvarjanje ljudi z IQ 140". Drugi so podvomili v optimističen časovni okvir, razumevanje človeškega telesa in možganov, opomnili so na Moorov zakon, ki še ni odšel. Za vsakega strokovnjaka, ki verjame v Kurzweilove ideje, obstajajo trije, ki mislijo, da se moti.
Toda pri tem je najbolj zanimivo, da večina strokovnjakov, ki se z njim ne strinjajo, na splošno ne trdi, da je to nemogoče. Namesto da bi rekli "sranje, to se ne bo nikoli zgodilo", rečejo nekaj takega, "vse to se bo zgodilo, če pridemo do ISI-ja, ampak to je težava." Bostrom, eden od priznanih strokovnjakov AI, ki opozarja na nevarnost AI, tudi priznava:
"Skoraj nobena težava ne more rešiti ali nam celo pomagati pri reševanju. Bolezen, revščina, uničenje okolja, trpljenje vseh vrst - vse to superinteligenca s pomočjo nanotehnologije lahko reši v trenutku. Superinteligenca nam lahko daje tudi neomejeno življenjsko dobo tako, da zaustavimo in obrnemo proces staranja z uporabo nanomedicine ali zmožnostjo, da nas naložimo v oblak. Superinteligenca lahko ustvari tudi priložnosti za neskončno povečanje intelektualnih in čustvenih zmožnosti; lahko nam pomaga ustvariti svet, v katerem bomo živeli v veselju in razumevanju, se približali svojim idealom in redno uresničevali svoje sanje."
To je citat enega od Kurzweilovih kritikov, ki pa priznava, da je vse to mogoče, če lahko ustvarimo varen ASI. Kurzweil je preprosto določil, kakšna naj bi postala umetna nadčloveška inteligenca, če sploh. In če je dober bog.
Najbolj očitna kritika zagovornikov cone udobja je, da se pri presoji prihodnosti ISI lahko pregrešijo. Kurzweil je v svoji knjigi Singularnost namenil 20 strani od 700 potencialnih groženj ISI. Vprašanje ni, ko pridemo do ISI, vprašanje je, kaj bo njegova motivacija. Kurzweil na to vprašanje odgovarja previdno: „ISI izhaja iz številnih različnih prizadevanj in bo globoko vključen v infrastrukturo naše civilizacije. Pravzaprav bo tesno vpet v naše telo in možgane. Odražal bo naše vrednote, ker bo eno z nami."
Če pa je odgovor, zakaj toliko pametnih ljudi na tem svetu skrbi za prihodnost umetne inteligence? Zakaj Stephen Hawking pravi, da bi razvoj ISI "lahko pomenil konec človeške rase"? Bill Gates pravi, da "ne razume ljudi, ki jih to ne moti". Elon Musk se boji, da "pozivamo demona". Zakaj mnogi strokovnjaki menijo, da je ISI največja grožnja človeštvu?
Temelji na materialih s strani waitbutwhy.com, ki jih je sestavil Tim Urban. V članku so uporabljeni materiali iz del Nicka Bostroma, Jamesa Barratta, Raya Kurzweila, Jaya Nielsa-Nilssona, Stephena Pinkerja, Vernorja Vingeja, Mosheja Vardyja, Russa Robertsa, Stuarta Armstroga in Kai Sotal, Susan Schneider, Stuart Russell in Petra Norviga, Theodoreja Modisa, Garyja Modisa Marcus, Karl Schulman, John Searle, Jaron Lanier, Bill Joy, Kevin Keley, Paul Allen, Stephen Hawking, Kurt Andersen, Mitch Kapor, Ben Herzel, Arthur Clark, Hubert Dreyfus, Ted Greenwald, Jeremy Howard.
Avtor: Ilya Khel
Tretji del: zakaj bi to lahko bil naš zadnji izum?