Razlog, da je ta (in drugi) članek prišel na dan, je preprost: morda umetna inteligenca ni le pomembna tema za razpravo, ampak najpomembnejša v prihodnosti. Vsakdo, ki se še malo spozna v bistvo potenciala umetne inteligence, priznava, da te teme ni mogoče prezreti. Nekateri - in med njimi Elon Musk, Stephen Hawking, Bill Gates, ne najbolj neumni ljudje na našem planetu - verjamejo, da umetna inteligenca predstavlja eksistencialno grožnjo človeštvu, ki je po obsegu primerljiva s popolnim izumrtjem nas kot vrste. No, usedite se in pikajte i zase.
"Smo na robu sprememb, primerljivih z izvorom človeškega življenja na Zemlji" (Vernor Vinge).
Kaj pomeni biti na robu takšne spremembe?
Zdi se, da ni nič posebnega. Ne pozabite pa, da biti na takem mestu na grafu pomeni, da ne veste, kaj je na vaši desni. Začutili bi nekaj takega:
Občutki so povsem običajni, let gre dobro.
Promocijski video:
Prihaja prihodnost
Predstavljajte si, da vas je časovni stroj odpeljal v leto 1750, čas, ko je svet nenehno izginjal iz elektrike, komunikacija med mesti je pomenila topovske strele in ves prevoz je tekel na senu. Recimo, da pridete tja, vzamete nekoga in ga pripeljete v leto 2015, pokažete, kako je tukaj. Ne moremo razumeti, kako bi bilo, če bi videl vse te bleščeče kapsule, ki letijo po cestah; pogovarjati se z ljudmi na drugi strani oceana; oglejte si tisoč kilometrov oddaljene športne igre; slišati glasbeno predstavo, posneto pred 50 leti; igrajte se s čarobnim pravokotnikom, ki lahko posname fotografijo ali zajame trenutek v živo; zgraditi zemljevid s paranormalno modro piko, ki označuje njegovo lokacijo; pogledati nekomu obraz in komunicirati z njim veliko kilometrov stran itd. Vse to je za skoraj tristo let stare ljudi nerazložljiva magija. Da ne omenjam interneta, Mednarodne vesoljske postaje, velikega hadronskega trkalnika, jedrskega orožja in splošne relativnosti.
Takšna izkušnja zanj ne bo presenetljiva ali šokantna - te besede ne sporočajo celotnega bistva duševnega kolapsa. Naš popotnik lahko popolnoma umre.
Ampak obstaja zanimiva točka. Če se vrne v leto 1750 in postane ljubosumen, da smo želeli videti njegov odziv na leto 2015, lahko vzame s seboj časovni stroj in poskusi storiti enako z recimo 1500. Odletel bo tja, našel osebo, jo pobral leta 1750 in vse pokazal. Tip iz leta 1500 bo presenečen, a verjetno ne bo umrl. Čeprav bo seveda presenečen, je razlika med letoma 1500 in 1750 precej manjša kot med letoma 1750 in 2015. Oseba od leta 1500 bo v nekaterih trenutkih presenečena iz fizike, presenečena bo nad tem, kaj je Evropa postala pod trdo peto imperializma, v svoji glavi narisala nov zemljevid sveta … Toda vsakdanje življenje leta 1750 - prevoz, komunikacije itd. - ga verjetno ne bo presenetilo do smrti.
Ne, da bi se moški iz leta 1750 zabaval enako kot mi, mora iti precej dlje - morda v leto, kakršno je bilo to leta 12.000 pr. e., še preden je prva kmetijska revolucija rodila prva mesta in koncept civilizacije. Če je kdo iz sveta lovcev in nabiralcev iz časov, ko so bili ljudje še bolj živalska vrsta, videl ogromne človeške imperije iz leta 1750 s svojimi visokimi cerkvami, ladjami, ki so prečkale oceane, njihov koncept, da so "znotraj" stavbe, vse to znanje - najverjetneje bi umrl.
In potem bi po smrti zavidal in želel storiti enako. Vrnil bi se pred 12.000 leti, 24.000 pr. e., bi osebo vzel in pravočasno pripeljal. In nov popotnik bi mu rekel: "No, v redu je, hvala." Ker je v tem primeru oseba od 12.000 pr. e. človek bi se moral vrniti 100.000 let nazaj in lokalnim staroselcem prvič pokazati ogenj in jezik.
Če moramo nekoga prepeljati v prihodnost, da bomo do smrti presenečeni, mora napredek prehoditi določeno razdaljo. Doseči morate točko napredovanja smrti (TPP). To pomeni, da če je v času lovcev nabiralcev TSP trajalo 100.000 let, je bil naslednji postanek že leta 12.000 pr. e. Po njem je bil napredek že hitrejši in je svet do leta 1750 korenito spremenil (približno). Potem je trajalo nekaj sto let in tu smo.
Ta slika - kjer se človeški napredek s časom premika hitreje - futurist Ray Kurzweil imenuje zakon o pospeševanju vračanja v človeško zgodovino. To se zgodi, ker lahko naprednejše družbe napredujejo hitreje kot manj razvite družbe. Ljudje iz 19. stoletja so vedeli več kot ljudje iz 15. stoletja, zato ni presenetljivo, da je bil napredek v 19. stoletju hitrejši kot v 15. stoletju itd.
V manjšem obsegu tudi to deluje. Nazaj v prihodnost je izšel leta 1985, preteklost pa leta 1955. V filmu, ko se je Michael J. Fox vrnil leta 1955, ga je presenetila novost televizorjev, cena sode, pomanjkanje ljubezni do zvoka kitare in variacije slenga. Seveda je bil drugačen svet, toda če bi film snemali danes, preteklost pa leta 1985, bi bila razlika veliko bolj globalna. Marty McFly bi bil v preteklosti iz časov osebnih računalnikov, interneta in mobilnih telefonov veliko bolj nepomemben kot Marty, ki je od leta 1985 odšel v leto 1955.
Vse to je posledica zakona pospeševanja donosa. Povprečna stopnja napredka med letoma 1985 in 2015 je bila hitrejša od stopnje med letoma 1955 in 1985 - ker je bil v prvem primeru svet bolj razvit, nasičen z dosežki v zadnjih 30 letih.
Kolikor več je dosežkov, toliko hitreje pride do sprememb. Toda ali nam to ne bi smelo pustiti določenih namigov za prihodnost?
Kurzweil predlaga, da bi bil napredek celotnega 20. stoletja mogoče doseči v samo 20 letih na razvojni ravni iz leta 2000 - torej v letu 2000 je bila stopnja napredka petkrat hitrejša od povprečne stopnje napredka 20. stoletja. Prepričan je tudi, da je bil napredek celotnega 20. stoletja enakovreden napredku v obdobju od 2000 do 2014, napredek drugega 20. stoletja pa bo enakovreden obdobju do leta 2021 - torej v samo sedmih letih. Po nekaj desetletjih bo ves napredek 20. stoletja potekal večkrat na leto, nato pa v samo enem mesecu. Zakon o pospeševanju donosa nas bo navsezadnje pripeljal do točke, da bo napredek v celotnem 21. stoletju 1000-krat večji od napredka 20. stoletja.
Če imajo Kurzweil in njegovi privrženci prav, nas bo leto 2030 presenetilo na enak način, kot bi fant iz leta 1750 presenetil naše leto 2015 - torej bo naslednji TSP trajal le nekaj desetletij -, svet 2050 pa bo tako drugačen od sodobnega, da komajda izvedeti. In to ni domišljija. Tako menijo številni znanstveniki, ki so pametnejši in bolj izobraženi kot ti in jaz. In če pogledate zgodovino, boste razumeli, da ta napoved izhaja iz čiste logike.
Zakaj potem, ko se soočamo z izjavami, kot je »svet se bo čez 35 let spremenil do neprepoznavnosti«, skeptično skomignemo z rameni? Za skepticizem glede prihodnjih napovedi obstajajo trije razlogi:
1. Ko gre za zgodovino, razmišljamo naravnost. Ko poskušamo vizualizirati napredek v naslednjih 30 letih, na napredek v prejšnjih 30 gledamo kot na pokazatelj, koliko se bo verjetno zgodilo. Ko razmišljamo o tem, kako se bo naš svet spremenil v 21. stoletju, vzamemo napredek 20. stoletja in ga dodamo letu 2000. Enako napako stori naš fant iz leta 1750, ko dobi nekoga iz leta 1500 in ga poskuša presenetiti. Intuitivno razmišljamo linearno, ko bi morali biti eksponentni. V bistvu bi moral futurist poskušati napovedati napredek v naslednjih 30 letih, ne da bi gledal na prejšnjih 30, ampak sodeč po trenutni stopnji napredka. Takrat bo napoved natančnejša, a vseeno pred vrati. Če želite pravilno razmišljati o prihodnosti, morate videti, da se stvari premikajo veliko hitreje kot zdaj.
2. Pot novejše zgodovine je pogosto izkrivljena. Prvič, tudi strma eksponentna krivulja se zdi linearna, ko vidite njene majhne dele. Drugič, eksponentna rast ni vedno gladka in enakomerna. Kurzweil verjame, da se napredek giblje v serpentinskih krivuljah.
Takšna krivulja gre skozi tri faze: 1) počasna rast (zgodnja faza eksponentne rasti); 2) hitra rast (eksplozivna, pozna faza eksponentne rasti); 3) stabilizacija v obliki posebne paradigme.
Če pogledate zadnjo zgodbo, lahko del krivulje S, v katerem ste trenutno, prikrije hitrost napredovanja. Nekaj časa med letoma 1995 in 2007 je bilo namenjenega eksplozivnemu razvoju interneta, predstavitvi Microsofta, Googla in Facebooka javnosti, rojstvu družbenih omrežij ter razvoju mobilnih telefonov in nato pametnih telefonov. To je bila druga faza naše krivulje. Toda obdobje 2008–2015 je bilo vsaj na tehnološkem področju manj moteče. Tisti, ki danes razmišljajo o prihodnosti, lahko v zadnjih nekaj letih ocenijo splošni tempo napredka, vendar širše slike ne vidijo. Pravzaprav se zdaj lahko pripravlja nova in močna faza 2.
3. Zaradi lastnih izkušenj smo v prihodnosti zlovoljni stari ljudje. Svoje ideje o svetu temeljimo na lastnih izkušnjah, ki so nam seveda postavile tempo rasti v bližnji preteklosti. Tudi naša domišljija je omejena, ker za napovedovanje uporabljajo naše izkušnje - a pogosteje kot ne, preprosto nimamo orodij za natančno napovedovanje prihodnosti. Ko slišimo napovedi za prihodnost, ki so v nasprotju z našim vsakdanjim dojemanjem, kako stvari delujejo, jih nagonsko imamo za naivne. Če bi vam rekel, da boste dočakali 150 ali 250 let ali morda sploh ne boste umrli, boste nagonsko mislili, da je "to neumno, iz zgodovine vem, da so v tem času vsi umrli". Tako je: nihče ni dočakal takih let. Pred izumom letal pa ni letelo niti eno letalo.
Čeprav se vam torej skepticizem zdi razumen, je pogosteje napačen. Sprejeti bi morali, da če se oborožimo s čisto logiko in počakamo na običajne zgodovinske cik-cake, moramo priznati, da se mora v prihodnjih desetletjih zelo, zelo, zelo spremeniti; veliko več kot intuitivno. Logika tudi narekuje, da če bo najnaprednejša vrsta na planetu še naprej velikansko pospeševala, vse hitreje in hitreje, bo na neki točki preskok tako hud, da bo korenito spremenil življenje, kakršno poznamo. Nekaj podobnega se je zgodilo v procesu evolucije, ko je človek postal tako pameten, da je popolnoma spremenil življenje katere koli druge vrste na planetu Zemlja. In če porabite malo časa za branje tega, kar se zdaj dogaja v znanosti in tehnologiji, bi lahkozačnite videti nekatere namige o tem, kakšen bo naslednji velikanski preskok.
Pot do superinteligence: kaj je umetna inteligenca?
Tako kot mnogi na tem planetu ste tudi vi navajeni umetne inteligence misliti kot neumno idejo znanstvene fantastike. Toda v zadnjem času je veliko resnih ljudi zaskrbljenih zaradi te neumne ideje. Kaj je narobe?
Obstajajo trije razlogi, ki povzročajo zmedo glede izraza AI:
1. AI povezujemo s filmi. "Vojna zvezd". "Terminator". "Vesoljska odisejaja leta 2001". Toda kot roboti je tudi AI v teh filmih fikcija. Tako hollywoodski trakovi razredčijo raven našega dojemanja, umetna inteligenca postane domača, domača in seveda zla.
2. To je široko področje uporabe. Začne se s kalkulatorjem v telefonu in razvojem samovozečih avtomobilov do nekaj daleč v prihodnosti, kar bo revolucioniralo svet. AI pomeni vse te stvari in je zmedeno.
3. AI uporabljamo vsak dan, vendar se tega pogosto niti ne zavedamo. Kot je John McCarthy, izumitelj izraza "umetna inteligenca" leta 1956, dejal, "ko enkrat deluje, ga nihče več ne imenuje AI." AI je bolj kot nekaj resničnega postal bolj mitska napoved o prihodnosti. Hkrati se v tem imenu skriva nekaj iz preteklosti, ki nikoli ni postalo resničnost. Ray Kurzweil pravi, da sliši ljudi, ki povezujejo umetno inteligenco z dejstvi iz 80-ih, kar lahko primerjamo s "trditvijo, da je internet umrl z dotcomi v zgodnjih 2000-ih."
Bodimo jasni. Najprej nehajte razmišljati o robotih. Robot, ki je vsebnik za umetno inteligenco, včasih posnema človeško obliko, včasih ne, toda sam umetna inteligenca je računalnik v robotu. AI so možgani, robot pa telo, če sploh ima telo. Programska oprema in podatki Siri so na primer umetna inteligenca, ženski glas je poosebitev te umetne inteligence in v tem sistemu ni robotov.
Drugič, verjetno ste že slišali za izraz "singularnost" ali "tehnološka singularnost". Ta izraz se v matematiki uporablja za opis nenavadnih razmer, ko običajna pravila ne delujejo več. V fiziki se uporablja za opis neskončno majhne in goste točke črne luknje ali prvotne točke Velikega poka. Zopet zakoni fizike pri tem ne delujejo. Leta 1993 je Vernor Vinge napisal slavni esej, v katerem je izraz uporabil za trenutek v prihodnosti, ko inteligenca naših tehnologij preseže našo - takrat se bo življenje, kot ga poznamo, spremenilo za vedno in običajna pravila njegovega obstoja ne bodo več delovala. … Ray Kurzweil je ta izraz še izboljšal z opozorilom, da bo singularnost dosežena, ko bo zakon o pospeševanju odboja dosegel skrajno točko,ko se tehnološki napredek premika tako hitro, da nehamo opažati njegove dosežke, skoraj neskončno hitro. Potem bomo živeli v popolnoma novem svetu. Vendar pa je veliko strokovnjakov prenehalo uporabljati ta izraz, zato ga ne uporabljajmo pogosto.
Nazadnje, čeprav obstaja veliko vrst ali oblik umetne inteligence, ki izhajajo iz širokega koncepta umetne inteligence, so glavne kategorije umetne inteligence kaliber. Obstajajo tri glavne kategorije:
1. Ozko usmerjena (šibka) umetna inteligenca (AI). UII je specializiran za eno področje. Med temi AI obstajajo tisti, ki lahko premagajo svetovnega šahovskega prvaka, toda to je vse. Obstaja eden, ki lahko ponudi najboljši način za shranjevanje podatkov na trdem disku, in to je to.
2. Splošna (močna) umetna inteligenca. Včasih se imenuje tudi AI na človeški ravni. AGI se nanaša na računalnik, ki je tako pameten kot človek - stroj, ki je sposoben izvesti kakršno koli intelektualno delovanje, ki je lastno človeku. Ustvarjanje AGI je veliko težje kot AGI in do tega še nismo prišli. Profesorica Linda Gottfredson inteligenco opisuje kot "na splošno duševni potencial, ki med drugim vključuje sposobnost razmišljanja, načrtovanja, reševanja problemov, abstraktnega razmišljanja, razumevanja kompleksnih idej, hitrega učenja in učenja iz izkušenj." AGI bi moral imeti vse to lahko tako enostavno kot vi.
3. Umetna superinteligenca (ISI). Oxfordski filozof in teoretik umetne inteligence Nick Bostrom superinteligenco opredeljuje kot "inteligenco, ki je bistveno pametnejša od najboljših človeških misli na skoraj vseh področjih, vključno z znanstveno ustvarjalnostjo, splošno modrostjo in socialnimi veščinami." Umetna superinteligenca vključuje računalnik, ki je nekoliko pametnejši od človeka, in tisti, ki je bilijone krat pametnejši v katero koli smer. ISI je razlog za vse večje zanimanje za umetno inteligenco, pa tudi to, da se v takih razpravah pogosto pojavita besedi "izumrtje" in "nesmrtnost".
Danes smo ljudje že v mnogih pogledih premagali prvo stopnjo kalibra AI - AI. Revolucija AI je pot od AGI prek AGI do ISI. Te poti morda ne bomo preživeli, zagotovo pa bo vse spremenila.
Poglejmo si natančno, kako to pot vidijo vodilni misleci na tem področju in zakaj bi se ta revolucija lahko zgodila hitreje, kot si mislite.
Kje smo v tem toku?
Usmerjena umetna inteligenca je strojna inteligenca, ki je enaka ali presega človeško inteligenco ali učinkovitost pri izvajanju določene naloge. Nekaj primerov:
»Avtomobili so polni sistemov ICD, od računalnikov, ki določajo, kdaj naj se vklopi protiblokirni zavorni sistem, do računalnika, ki določa parametre sistema vbrizga goriva. Googlovi samovozeči avtomobili, ki so trenutno na preizkusu, bodo vsebovali robustne sisteme umetne inteligence, ki zaznavajo in se odzivajo na svet okoli njih.
- Vaš telefon je majhna tovarna ICD. Ko uporabljate aplikacijo Zemljevidi, dobite priporočila za prenos aplikacij ali glasbe, preverite jutrišnje vreme, se pogovorite s Siri ali kar koli drugega - uporabljate AI.
- Vaš e-poštni filter za neželeno pošto je klasična vrsta umetne inteligence. Začne se tako, da ugotovi, kako ločiti neželeno pošto od uporabne e-pošte, nato pa se uči, ko obdeluje vaše e-poštne naslove in nastavitve.
- In ta neprijeten občutek, ko ste včeraj v iskalniku iskali izvijač ali novo plazmo, danes pa na drugih spletnih mestih vidite ponudbe koristnih trgovin? Ali ko vam socialno omrežje priporoča, da dodate zanimive ljudi kot prijatelje? Vse to so sistemi umetne inteligence, ki delujejo skupaj, določajo vaše želje, pridobivajo podatke o vas iz interneta, se vam približujejo. Analizirajo vedenje milijonov ljudi in na podlagi teh analiz sklepajo, da bi prodali storitve velikih podjetij ali izboljšali njihove storitve.
- Google Translate je še en klasičen sistem umetne inteligence, ki je izjemno dober pri nekaterih stvareh. Tudi prepoznavanje glasu. Ko vaše letalo pristane, oseba terminala zanj ne prepozna. Cena vstopnice je enaka. Najboljše svetovne dame, šahe, backgammon, rezance in druge igre danes predstavlja ozko usmerjena umetna inteligenca.
»Google Search je velikanski AI, ki uporablja neverjetno pametne metode za razvrščanje strani in določanje SERP-jev.
In to je samo v potrošniškem svetu. Prefinjeni sistemi ICD se pogosto uporabljajo v vojaški, proizvodni in finančni industriji; v medicinskih sistemih (pomislite na IBM-ovega Watsona) itd.
Pot od AGI do AGI: zakaj je tako težko?
Nič ne razkriva zapletenosti človeške inteligence bolj kot poskušanje ustvariti ravno tako pameten računalnik. Graditi nebotičnike, leteti v vesolje, skrivnosti Velikega poka so nesmisel v primerjavi s ponavljanjem lastnih možganov ali vsaj samo njegovim razumevanjem. Človeški možgani so trenutno najbolj zapleten predmet v znanem vesolju.
Morda niti ne sumite, v čem je težava pri ustvarjanju AGI (računalnik, ki bo na splošno pameten kot oseba in ne le na enem področju). Zgraditi računalnik, ki lahko v delih sekunde pomnoži dve desetmestni številki, je kos pogače. Ustvariti nekoga, ki lahko pogleda psa in mačko in pove, kje je pes in kje mačka, je neverjetno težko. Ustvari AI, ki lahko premaga velemojstra? Končano. Zdaj ga poskusite prebrati, da prebere odstavek iz šest let stare knjige in ne samo razume besede, ampak tudi njihov pomen. Google za to porabi milijarde dolarjev. S kompleksnimi stvarmi - kot so izračuni, izračun strategij finančnega trga, prevajanje jezika - se računalnik s tem spopada z lahkoto, a s preprostimi stvarmi - vizijo, gibanjem, zaznavanjem - ne. Kot je rekel Donald Knuth, »AI zdaj počne skoraj vseki zahteva "razmišljanje", vendar se brez razmišljanja ne more spoprijeti s tem, kar počnejo ljudje in živali."
Ko pomislite na razloge za to, se zavedate, da se stvari, ki se nam zdijo preproste, zdijo samo zato, ker so bile optimizirane za nas (in živali) v stotinah milijonih let evolucije. Ko posežete po predmetu, mišice, sklepi, kosti ramen, komolcev in rok takoj izvedejo dolge verige fizičnih operacij, sinhrono s tem, kar vidite, in premikajo roko v treh dimenzijah. Zdi se vam preprosto, saj je za te procese odgovorna idealna programska oprema v vaših možganih. Ta preprost trik olajša postopek registracije novega računa z vnosom ukrivljeno napisane besede (captcha) za vas in hudiča za zlonamernega bota. Za naše možgane to ni težko: preprosto morate biti sposobni videti.
Po drugi strani pa je množenje velikega števila ali igranje šaha nova dejavnost za biološka bitja in v njih nismo imeli dovolj časa (ne milijone let), zato nas računalnik ni težko premagati. Samo pomislite: ali bi raje ustvarili program, ki lahko pomnoži velika števila, ali program, ki prepozna črko B v svojih milijonih črkovanj, v najbolj nepredvidljivih pisavah, ročno ali s palico v snegu?
En preprost primer: ko to pogledate, vi in vaš računalnik ugotovite, da gre za izmenična kvadrata dveh različnih odtenkov.
Če pa črno odstranite, takoj opišete celotno sliko: jeklenke, ravnine, tridimenzionalni koti, računalnik pa ne.
Opisal bo tisto, kar vidi kot raznolike dvodimenzionalne oblike v različnih odtenkih, kar načeloma drži. Vaši možgani opravijo ogromno dela z interpretacijo globine, igre senc, svetlobe na sliki. Na spodnji sliki bo računalnik videl dvodimenzionalni belo-sivo-črni kolaž, ko pa v resnici obstaja tridimenzionalni kamen.
In kar smo pravkar opisali, je vrh ledene gore, ko gre za razumevanje in obdelavo informacij. Če želite doseči enako raven z osebo, mora računalnik razumeti razliko v subtilnih izrazih obraza, razliko med užitkom, žalostjo, zadovoljstvom, veseljem in tem, zakaj je Chatsky dober, Molchalin pa ne.
Kaj storiti?
Prvi korak k gradnji AGI: povečanje računalniške moči
Ena od nujnih stvari, ki se mora zgoditi, da AGI postane mogoča, je povečati moč računalniške strojne opreme. Če naj bo sistem umetne inteligence tako pameten kot možgani, se mora ujemati z možgani v surovi računalniški moči.
Eden od načinov za povečanje te sposobnosti je skupno število izračunov na sekundo (OPS), ki jih lahko ustvarijo možgani, in to številko lahko ugotovite tako, da ugotovite največji OPS za vsako možgansko strukturo in jih sestavite.
Ray Kurzweil je zaključil, da je dovolj, da strokovno ocenimo OPS ene strukture in njegovo težo glede na težo celotnih možganov, nato pa jo proporcionalno pomnožimo, da dobimo splošno oceno. Sliši se nekoliko dvomljivo, vendar je to storil večkrat z različnimi ocenami različnih področij in vedno je prišel do enakega števila: približno 10 ^ 16 ali 10 kvadrilijonov OPS.
Najhitrejši superračunalnik na svetu, kitajski Tianhe-2, je to številko že presegel: zmore opraviti približno 32 kvadrilijonov operacij na sekundo. Toda "Tianhe-2" zavzema 720 kvadratnih metrov prostora, porabi 24 megavatov energije (naši možgani porabijo le 20 vatov) in stane 390 milijonov dolarjev. Ne govorimo o komercialni ali široki uporabi.
Kurzweil predlaga, da ocenimo zdravje računalnikov glede na to, koliko OPS lahko kupite za 1000 USD. Ko bo ta številka dosegla človeško raven - 10 kvadrilijonov OPS - bo AGI lahko postal del našega življenja.
Moorejev zakon - zgodovinsko zanesljivo pravilo, da se največja računalniška moč računalnikov podvoji vsaki dve leti - pomeni, da razvoj računalniške tehnologije, tako kot gibanje človeka skozi zgodovino, eksponentno raste. Če to uskladimo s Kurzweilovim pravilom tisoč dolarjev, si lahko zdaj privoščimo 10 bilijonov OPS za 1000 dolarjev.
Eksponentna rast računalništva: 20. - 21. stoletje. Na desni je pravilo diapozitiva in na njem - možgani žuželk, miši, osebe in vseh ljudi; levo - izračuni na sekundo za 1000 USD; spodaj - leto.
Računalniki za 1000 dolarjev po svoji računalniški moči zaobidejo mišje možgane in so tisočkrat šibkejši od ljudi. To se zdi slab pokazatelj, dokler se ne spomnimo, da so bili računalniki leta 1985 bilijoni trikrat šibkejši od človeških možganov, leta 1995 milijarda in milijon leta 2005. Do leta 2025 bi morali imeti cenovno ugoden računalnik, ki bi bil kos računalniški moči naši možgani.
Tako je surova moč, potrebna za AGI, že tehnično na voljo. V 10 letih bo zapustil Kitajsko in se razširil po vsem svetu. Toda zgolj računalniška moč ni dovolj. In naslednje vprašanje: kako zagotoviti inteligenco na človeški ravni z vso to močjo?
Drugi korak k ustvarjanju AGI: dajanje inteligence
Ta del je precej zapleten. V resnici nihče v resnici ne ve, kako narediti stroj inteligentnega - še vedno poskušamo ugotoviti, kako ustvariti inteligenco na človeški ravni, ki lahko mačko loči od psa, izolira B, narisanega v snegu, in analizira drugorazredni film. Vendar pa obstaja nekaj strategij premišljenega razmišljanja in na neki točki bi ena od njih morala delovati.
1. Ponovite možgane
Ta možnost je takšna, kot da bi bili znanstveniki v isti učilnici z otrokom, ki je zelo pameten in zna odgovoriti na vprašanja; in četudi marljivo skušajo razumeti znanost, se ne približajo pametnemu otroku. Na koncu se odločijo: hudiča bomo le odpisali odgovore na njegova vprašanja. Smiselno je: ne moremo zgraditi nadkompleksnega računalnika, zakaj torej za osnovo ne bi vzeli enega najboljših prototipov vesolja: naše možgane?
Znanstveni svet trdo dela, da bi ugotovil, kako delujejo naši možgani in kako je evolucija ustvarila tako zapleteno stvar. Po najbolj optimističnih ocenah bodo to lahko storili šele do leta 2030. Ko pa enkrat razumemo vse možganske skrivnosti, njihovo učinkovitost in moč, se lahko pri ustvarjanju tehnologije zgledujemo po njegovih metodah. Na primer, ena od računalniških arhitektur, ki posnema delo možganov, je nevronska mreža. Začne z mrežo tranzistorskih "nevronov", ki so med seboj povezani z vhodom in izhodom, in ne ve ničesar - kot novorojenček. Sistem se "uči" tako, da poskuša dokončati naloge, prepozna rokopisno besedilo in podobno. Povezave med tranzistorji se okrepijo, če je odgovor pravilen, in oslabijo, če je odgovor nepravilen. Po številnih ciklih vprašanj in odgovorov sistem oblikuje pametne nevronske preplete,optimiziran za določene naloge. Možgani se učijo na podoben način, vendar na veliko bolj zapleten način, in ko ga še naprej preučujemo, odkrivamo neverjetne nove načine za izboljšanje nevronskih mrež.
Še bolj skrajni plagiat vključuje strategijo, imenovano popolna emulacija možganov. Namen: Če želite resnične možgane razrezati na tanke rezine, skenirajte vsako od njih, nato natančno rekonstruirajte 3D model s pomočjo programske opreme in ga nato prenesite v zmogljiv računalnik. Potem bomo imeli računalnik, ki lahko uradno naredi vse, kar zmorejo možgani: le naučiti se mora in zbrati informacije. Če inženirji uspejo, lahko posnemajo resnične možgane s tako neverjetno natančnostjo, da bodo po prenosu v računalnik resnična identiteta in spomin možganov ostali nedotaknjeni. Če so možgani pripadali Vadimu, preden je umrl, se bo računalnik prebudil v vlogi Vadima, ki bo zdaj AGI na človeški ravni, mi pa bomo Vadima spremenili v neverjetno inteligenten ISI.ki se ga bo zagotovo razveselil.
Kako daleč smo od popolnega posnemanja možganov? V resnici smo ravno posnemali možgane milimetrskega ploskovca, ki vsebuje skupaj 302 nevrona. Človeški možgani vsebujejo 100 milijard nevronov. Če se vam zdi poskus do te številke jalov, pomislite na eksponentno stopnjo rasti napredka. Naslednji korak bo posnemanje možganskih možganov, potem bo miška in potem bo človek lahko dosegljiv.
2. Poskusite slediti evolucijski poti
No, če se odločimo, da so odgovori pametnega otroka preveč zapleteni za odpis, lahko poskusimo slediti njegovim stopinjam učenja in priprave na izpite. Kaj vemo? Povsem mogoče je zgraditi tako zmogljiv računalnik kot možgani - evolucija lastnih možganov je to dokazala. In če so možgani preveč zapleteni za posnemanje, lahko poskusimo posnemati evolucijo. Bistvo je v tem, da čeprav bi lahko posnemali možgane, bi bilo to morda kot poskušati zgraditi letalo s smešnim mahanjem z roko, ki posnema gibanje ptičjih kril. Pogosteje nam uspe ustvariti dobre stroje z uporabo strojno usmerjenega pristopa in ne z natančno imitacijo biologije.
Kako simulirati evolucijo za gradnjo AGI? Ta metoda, imenovana "genetski algoritmi", bi morala delovati nekako takole: mora obstajati produktivni postopek in njegovo vrednotenje, ki se bo ponavljalo znova in znova (na enak način biološka bitja "obstajajo" in "jih ocenjujejo" glede na njihovo sposobnost razmnoževanja). Skupina računalnikov bo izvajala naloge, najuspešnejši med njimi pa bodo svoje značilnosti delili z drugimi računalniki, "izhodnimi". Manj uspešni bodo neusmiljeno vrženi na smetišče zgodovine. Skozi številne, številne ponovitve bo ta naravni izbirni postopek dal boljše računalnike. Izziv je ustvariti in avtomatizirati vzrejne in ocenjevalne cikle, tako da se evolucijski proces nadaljuje sam od sebe.
Slaba stran kopiranja evolucije je, da evolucija za nekaj naredi milijarde let, za to pa potrebujemo le nekaj desetletij.
Imamo pa veliko prednosti, za razliko od evolucije. Prvič, nima dara predvidevanja, deluje po naključju - na primer daje neuporabne mutacije - in lahko nadzorujemo postopek v okviru zastavljenih nalog. Drugič, evolucija nima cilja, vključno z željo po inteligenci - včasih določena vrsta v okolju ne zmaga na račun inteligence (ker slednja porabi več energije). Mi pa si lahko prizadevamo za povečanje inteligence. Tretjič, da bi evolucija izbrala inteligenco, mora narediti številne izboljšave tretjih oseb - na primer prerazporeditev porabe energije v celicah - lahko preprosto odstranimo odvečno in uporabimo elektriko. Brez dvoma bomo hitrejši od evolucije - toda spet ni jasno, ali jo lahko presežemo.
3. Računalnike prepustite sami sebi
To je zadnja priložnost, ko so znanstveniki povsem obupani in poskušajo programirati program za samorazvoj. Vendar se ta metoda lahko izkaže za najbolj obetavno. Ideja je v tem, da ustvarjamo računalnik, ki bo imel dve osnovni spretnosti: raziskovanje umetne inteligence in samostojno kodiranje sprememb - kar mu bo omogočilo, da ne bo izvedel več, ampak tudi izboljšati lastno arhitekturo. Računalnike lahko usposobimo za lastne računalniške inženirje, da se lahko samorazvijajo. In njihova glavna naloga bo ugotoviti, kako postati pametnejši. O tem bomo govorili podrobneje.
Vse to se lahko zgodi zelo kmalu
Hiter napredek v eksperimentiranju s strojno in programsko opremo poteka vzporedno, AGI pa se lahko hitro in nepričakovano pojavi iz dveh glavnih razlogov:
Kdaj bodo računalniki v miselnosti zmogli ljudi? Prostornina jezera Michigan (v tekočih unčah) je enaka prostornini naših možganov (pri operacijah na sekundo). Računalniška moč se podvoji vsakih 18 mesecev. Pri tej hitrosti še dolgo ne boste videli nobenih rezultatov, potem pa se bo vse zgodilo takoj.
2. Kar zadeva programsko opremo, se napredek morda zdi počasen, potem pa en preboj takoj spremeni hitrost napredka (dober primer: v dneh geocentričnega pogleda na svet so ljudje težko izračunali delo vesolja, a odkritje heliocentrizma je vse skupaj veliko olajšalo). Ali ko gre za računalnik, ki se izboljšuje, se stvari morda zdijo izjemno počasne, toda včasih ga le ena sprememba sistema loči od tisočkratne učinkovitosti v primerjavi s človeško ali prejšnjo različico.
Cesta od AGI do ISI
Na neki točki bomo zagotovo dobili AGI - splošno umetno inteligenco, računalnike s splošno človeško stopnjo inteligence. Računalniki in ljudje bomo živeli skupaj. Ali pa ne bodo.
Bistvo je, da bo imel AGI z enako stopnjo inteligence in računalniške moči kot ljudje še vedno pomembne prednosti pred ljudmi. Na primer:
Oprema
Hitrost. Možganski nevroni delujejo pri 200 Hz, medtem ko sodobni mikroprocesorji (ki so bistveno počasnejši od tistega, ki ga bomo dobili do nastanka AGI) delujejo s frekvenco 2 GHz ali 10 milijonov krat hitreje kot naši nevroni. In notranje komunikacije možganov, ki se lahko premikajo s hitrostjo 120 m / s, so bistveno slabše od zmožnosti računalnikov za uporabo optike in svetlobne hitrosti.
Velikost in skladiščenje. Velikost možganov je omejena z velikostjo naših lobanj in ne more biti večja, sicer bodo notranje komunikacije s hitrostjo 120 m / s predolgo potovale iz ene strukture v drugo. Računalniki se lahko razširijo na katero koli fizično velikost, uporabljajo več strojne opreme, povečajo RAM in dolgoročni pomnilnik - vse to presega naše zmožnosti.
Zanesljivost in vzdržljivost. Ne samo računalniški pomnilnik je natančnejši od človeškega. Računalniški tranzistorji so natančnejši od bioloških nevronov in so manj nagnjeni k poslabšanju (in jih je mogoče nadomestiti ali popraviti). Možgani se hitreje utrudijo, medtem ko lahko računalniki delujejo neprekinjeno, 24 ur na dan, 7 dni v tednu.
Programska oprema
Možnost urejanja, posodobitve, širši spekter možnosti. Za razliko od človeških možganov je računalniški program mogoče enostavno popraviti, posodobiti ali preizkusiti. Nadgraditi je mogoče tudi področja, kjer so človeški možgani šibki. Programska oprema za človeški vid je vrhunsko zasnovana, a z inženirskega vidika so njene zmogljivosti še vedno zelo omejene - vidimo le v vidnem spektru svetlobe.
Kolektivna sposobnost. Ljudje smo po veliki kolektivni inteligenci boljši od drugih vrst. Začenši z razvojem jezika in oblikovanjem velikih skupnosti, skozi iznajdbe pisanja in tiska, ki jih zdaj poganja orodje, kot je internet, je kolektivna inteligenca ljudi pomemben razlog, da se lahko imenujemo krona evolucije. Toda računalniki bodo še vedno boljši. Globalno omrežje umetne inteligence, ki deluje v enem programu in se nenehno sinhronizira in razvija, se bo lahko takoj pridružilo novim informacijam v zbirko podatkov, kjer koli jih dobite. Takšna skupina si bo lahko prizadevala tudi za en cilj kot celoto, saj računalniki ne trpijo zaradi posebnih mnenj, motivacije in lastnih interesov, ki jih imajo ljudje.
AI, ki bo s programiranim samoizboljšanjem verjetno postal AGI, ne bo videl "inteligence na človeškem nivoju" pomembnega mejnika - ta mejnik je pomemben samo za nas. Ne bo imel razloga, da bi se ustavil na tej dvomljivi ravni. Glede na prednosti, ki jih bo imel celo AGI na človeški ravni, je povsem očitno, da bo človeška inteligenca zanj kratek trenutek v tekmi za intelektualno superiornost.
Tak razvoj dogodkov nas lahko zelo, zelo preseneti. Dejstvo je, da je z našega vidika a) edino merilo, ki nam omogoča določanje kakovosti inteligence, inteligenca živali, ki je privzeto nižja od naše; b) za nas so najpametnejši ljudje VEDNO pametnejši od najbolj neumnih. Bolj ali manj tako:
To pomeni, da medtem ko AI samo poskuša doseči našo stopnjo razvoja, vidimo, kako postane pametnejši in se približuje ravni živali. Ko pride na prvo človeško raven - Nick Bostrom uporablja izraz "podeželski idiot" - bomo navdušeni: "Vau, že je kot bedak. Super! " Edino, da je v splošnem spektru inteligence ljudi, od vaškega idiota do Einsteina, doseg majhen - zato bo, potem ko AI pride na nivo idiota in postane AGI, nenadoma postal pametnejši od Einsteina.
In kaj bo potem?
Eksplozija inteligence
Upam, da se vam je zdelo zanimivo in zabavno, saj od tega trenutka tema, o kateri razpravljamo, postane nenormalna in grozljiva. Morali bi se ustaviti in se spomniti, da je vsako zgoraj omenjeno dejstvo resnična znanost in resnične napovedi za prihodnost, ki so jih dali najvidnejši misleci in znanstveniki. Samo ne pozabite.
Kot smo že omenili, vsi naši trenutni modeli za doseganje AGI vključujejo možnost, ko se AI samoizboljša. In ko enkrat postane AGI, tudi sistemi in metode, po katerih je odraščal, postanejo dovolj pametni, da se lahko izboljšajo - če hočejo. Pojavi se zanimiv koncept: rekurzivno samoizboljšanje. Deluje takole.
Določen sistem umetne inteligence na določeni ravni - recimo vaški idiot - je programiran za izboljšanje lastne inteligence. Ko se tak sistem razvije - recimo do ravni Einsteina -, se začne razvijati že z intelektom Einsteina, traja manj časa, da se razvije, in preskoki so vedno večji. Omogočajo, da sistem prekaša katero koli osebo in postaja vedno večji. Ker se AGI hitro razvija, se njegova inteligenca dvigne do nebesnih višin in postane superinteligentni sistem ISI. Ta proces se imenuje eksplozija inteligence in je najjasnejši primer zakona pospeševanja donosa.
Znanstveniki se prepirajo o tem, kako hitro bo umetna inteligenca dosegla AGI - večina verjame, da bomo AGI dobili do leta 2040, v samo 25 letih, kar je po standardih tehnološkega razvoja zelo malo. Če nadaljujemo logično verigo, ni težko domnevati, da bo tudi prehod z AGI na ISI izredno hiter. Bolj ali manj tako:
»Minilo je desetletja, preden je prvi sistem umetne inteligence dosegel najnižjo raven splošne inteligence, a se je končno zgodilo. Računalnik je sposoben razumeti svet kot štiriletna oseba. Nenadoma, dobesedno uro po tem, ko je dosegel ta mejnik, sistem ustvari odlično fizikalno teorijo, ki združuje splošno relativnost in kvantno mehaniko, česar noben človek ne more storiti. Po uri in pol AI postane ISI, 170.000-krat pametnejši od katerega koli človeka."
Niti nimamo pravih izrazov, da bi opisali superinteligenco te velikosti. V našem svetu "pameten" pomeni osebo z IQ 130, "neumen" - 85, vendar nimamo primerov ljudi z IQ 12.952. Naši vladarji niso zasnovani za to.
Zgodovina človeštva nam jasno in jasno pove: skupaj z razumom prihajata moč in moč. To pomeni, da bo to, ko bomo ustvarili umetno superinteligenco, najmočnejše bitje v zgodovini življenja na Zemlji in vsa živa bitja, vključno z ljudmi, bodo popolnoma v njegovi moči - in to se lahko zgodi čez dvajset let.
Če bi lahko naši pičli možgani izumili Wi-Fi, potem lahko kaj pametnejšega od nas sto, tisoč, milijardo krat zlahka izračuna položaj vsakega atoma v vesolju v danem trenutku. Vse, čemur lahko rečemo magija, kakršna koli moč, ki jo pripisujemo vsemogočnemu božanstvu - vse to bo na razpolago ISI. Ustvarjanje tehnologije za odpravo staranja, zdravljenje katere koli bolezni, odprava lakote in celo smrti, nadzor vremena - vse bo nenadoma postalo mogoče. Možen je tudi takojšen konec vsega življenja na Zemlji. Najpametnejši ljudje na našem planetu se strinjajo, da bo takoj, ko se bo umetna superinteligenca pojavila na svetu, zaznamovala pojav Boga na Zemlji. In pomembno vprašanje ostaja.
Na podlagi gradiva waitbutwhy.com, kompilacija Tim Urban. V članku so uporabljeni materiali iz del Nicka Bostroma, Jamesa Barratta, Raya Kurzweila, Jaya Niels-Nilssona, Stephena Pinkerja, Vernorja Vingeja, Mosheja Vardyja, Russa Robertsa, Stuarta Armstroga in Kaija Sotala, Susan Schneider, Stuarta Russella in Petra Norviga, Theodoreja Modisa Marcus, Karl Schulman, John Searle, Jaron Lanier, Bill Joy, Kevin Kely, Paul Allen, Stephen Hawking, Kurt Andersen, Mitch Kapor, Ben Herzel, Arthur Clark, Hubert Dreyfus, Ted Greenwald, Jeremy Howard.
Avtor: Ilya Khel
Drugi del: izumrtje ali nesmrtnost?