Kljub široki pozornosti razvoju umetne inteligence je na svetu več ljudi, ki menijo, da je potencial bistveno izboljšane človeške inteligence (AI) veliko večji. Vprašanje, kaj bo prišlo najprej, ostaja odprto, a verjamejo, da so tehnološko napredni možgani lahko tako močni (in odkrito povedano, enako nevarni) kot AI.
Človek kot vrsta je razvil svoje razmišljanje v mnogih tisočletjih. Ali pa vsaj poskusil. Pri poskusu premagovanja svojih kognitivnih omejitev so ljudje uporabili vse, kar lahko, od pisnih, jezikovnih in meditativnih tehnik do sodobnih nootrop.
Zakaj se, namesto da bi poskušali razviti splošno umetno inteligenco (AGI) ali celo umetno nadinteligenco (ISI), ne bi bilo bolje osredotočiti na človeške možgane in njegov še vedno daleč od popolnoma razkritega potenciala? Navsezadnje lahko bistveno izboljšanje uma - bodisi z genetiko, kibernetiko bodisi s pomočjo zunanjih naprav - privede do enakega rezultata, kot ga pričakujemo pri ustvarjanju naprednega AI.
Portal Gizmodo se je odločil, da se obrne na futurologa Michaela Anisimova, blogerja portala Accelerating Future in soustanovitelja dogodka Summitity Summit, ter ugotovi verjetne možnosti za razvoj smeri izboljšanja človeških možganov. Anisimov jemlje to vprašanje zelo resno in meni, da bi morali biti pri AI toliko pozorni kot na AI.
Michael, ko govorimo o povečanju inteligence, kaj v resnici mislimo s tem? Govorimo o ustvarjanju novih Einsteinov? Ali pa gre za nekaj še bolj ambicioznega?
Resnični cilj AI smeri je raje ustvariti "super-Einsteine", ljudi bistveno pametnejše od vseh ljudi, ki so kdaj živeli na Zemlji. Za dosego tega cilja bo treba storiti več ključnih korakov.
Prvi korak je vzpostavitev neposredne nevronske povezave z informacijami. Zamislite si to kot nekakšno "telepatsko iskanje Google".
Naslednja bo razvoj možgansko-računalniških vmesnikov, ki bodo okrepili delo tistega dela možganov, ki je odgovoren za vizualno zaznavo. To bo izboljšalo ne le našo vizijo, ampak tudi znatno povečalo učinkovitost obdelave informacij. Zamislite si samo, da boste lahko skoraj v trenutku ustvarili v svojih možganih kakšno zapleteno shemo predmeta v podrobnostih ali pa si boste zdaj zelo dobro zapomnili shemo, ki ste jo videli. Povečanje bo potrebno tudi na drugih področjih čutne skorje, odgovornih za dotik in sluh.
Promocijski video:
Tretji korak bo povečanje predfrontalne skorje. To je sveti gral raziskovanja uporabniškega vmesnika - izboljšanje učinkovitosti zaznavanja in vključevanje senzoričnih informacij v koncepte. Končni rezultat bo pojavljanje ljudi, sposobnih pokazati skoraj nemogoče intelektualne sposobnosti. Govorimo na primer o sposobnosti nadzora drugih ljudi z močjo razuma, razumevanju vseh zmagovalnih položajev na borzi ali na primer ustvarjanju izumov, ki lahko spremenijo svet v skoraj enem dnevu. Zdaj se to morda zdi nemogoče, tako kot so se zdili naši sodobni dosežki v očeh ljudi iz kamene dobe nemogoči. Toda ta možnost je resnična.
Kdaj se bomo AI razvijali v prihodnjih desetih letih? Ali lahko človeški možgani resnično konkurirajo njim?
Človeških možganov res ni mogoče preveč spremeniti. Konec koncev je to že rezultat sedmih milijonov let evolucijske optimizacije in natančne nastavitve, ki so bile, glede na njene omejitve, zelo uspešne. In poskusi, da bi ga »overlock« praviloma privedli do njegovega neuspeha, če upoštevamo to vprašanje, vsaj z vidika primera učinkov, ki jih spremlja amfitaminska odvisnost.
Napovednik filma Področja teme
Kemikalije ne morejo izboljšati kognitivnih sposobnosti osebe. In vse, kar je dano v prid učinkovitosti sedanjih "pospeševalcev možganov", je videti v resnici skrajno sporno in dvomljivo. Pravi uspeh bo zahteval uporabo možganskih vsadkov, ki se povezujejo z milijoni nevronov. To pa bo zahtevalo na milijone drobnih elektrod in namenski nadzorni sistem, da bi jih vse sinhroniziral. Danes ima najbolj napredna zasnova računalniškega in možganskega vmesnika približno 1000 takšnih povezav. Z drugimi besedami, moderni razvoj je treba več kot tisočkrat povečati, da dosežemo nekaj resnično zanimivega. Tudi če upoštevamo eksponentno rast, bo trajalo vsaj 15 do 20 let, da dosežemo kakršne koli rezultate.
Razvoj UI temelji predvsem na napredku v razvoju nanoprodukcije. In rezultati inženirjev, ki delajo na vmesnikih med možgani in računalnikom, kot je na primer Ed Boyden z Massachusetts Institute of Technology, so v celoti odvisni od napredka v tej smeri. Glede na zanemarljivo raven razvoja proizvodnih tehnologij na atomski ravni je samonastavitev na na ravni videti najbolj očiten način za razvoj možgansko-računalniških vmesnikov z milijoni elektrod. Upoštevati je treba, da samonastavitev na nanostni ravni ni atomsko natančna metoda izdelave, vendar je po standardih osnovne izdelave in fotolitografije dovolj natančna.
Kakšni so možni psihološki stranski učinki za ljudi z bistveno izboljšano inteligenco? Ali jih s tega vidika na splošno lahko štejemo za ljudi?
Eden najpogostejših stranskih učinkov bo norost. Človeški možgani so neverjetno fino nastavljeni stroj. In vsaka sprememba načina delovanja vodi do tega, kar običajno imenujemo "norost". Obstaja veliko različnih vrst norosti, veliko več kot vedenjski vzorci delujočega zdravega razuma. Na primer, skrita norost s stališča zunanjega okolja se lahko zdi precej zdravo vedenje, zato se bomo najverjetneje soočili s težavami pri prepoznavanju takšnih posameznikov, ki trpijo zaradi norosti.
Tudi pri popolni previdnosti se lahko pojavijo različni neželeni učinki, vključno z napadi, preobremenjenostjo informacij in morebiti občutkom egomanije in popolne odtujenosti. Pametni ljudje se počutijo bolj odtujene od sveta okoli sebe, zato vedoč, da ste najbolj pametni na planetu, ta učinek večkrat okrepite.
Večina zelo pametnih ljudi ni zelo družabna in vesela, kot recimo ameriški znanstvenik Richard Feynman ali kot sodobni Neil DeGrasse Tyson. Hemingway je nekoč dejal: "Inteligentna oseba se mora včasih napiti, da bi zdržala komunikacijo z norci." Toda kaj se zgodi, ko alkoholna pijača ne zadostuje več za ohranjanje prijateljstva in medsebojne naklonjenosti? To lahko privede do izgube empatije, kar na koncu privede do psihopatije.
Kaj torej pride najprej? Okrepljena ali umetna inteligenca?
Zelo težko je napovedati. Velika želja je, da bi se pred AI pojavila izboljšana inteligenca. Vsa ta umetniška dela in igre, v katerih glavni junak poseduje takšen uporabniški vmesnik, so v veliki meri odgovorni za to željo. Vendar je treba razumeti, da naklonjenost uporabniškemu vmesniku dejansko ne olajša dela v smislu tehnološke zapletenosti. Ampak osebno mislim, da bo uporabniški vmesnik prišel prej.
Kakor koli že, obe smeri je zelo težko izvesti. Morda ne bomo videli nobenega do 2060-ih, 2070-ih ali celo pozneje. Na koncu bosta obe smeri razvoja dosegli svoje cilje. Če pomislite na to, v inteligenci zdaj ni nič presenetljivega, zato je potreba po njenem izboljšanju neverjetno ogromna. In verjetno bo potrebna globalna vstaja Luddita (udeleženci spontanih protestov prve četrtine 19. stoletja proti uvedbi strojev med industrijsko revolucijo v Angliji - ur.), Da bomo ustavili napredek tehnološkega razvoja, kar nas bo pripeljalo do želenih rezultatov.
Katere so prednosti in slabosti teh dveh različnih razvojnih pristopov?
Glavna prednost izbire razvojne poti AI je v nesorazmerno cenejših in enostavnejših razvojnih procesih. AI na papirju in v kodi je že razvit. Ostaja nam le pravilno sestaviti. Najpomembnejša raziskava uporabniškega vmesnika pa je zdaj preprosto nezakonita. Resne raziskave UI bodo zahtevale zelo izpopolnjene poskuse v nevrokirurgiji in možganskih vsadkih. Možganski vsadki pa lahko propadejo, kar povzroči epileptične napade, norost ali celo smrt. Izboljšanje človeške inteligence v smislu kakovostnega načina samoizpopolnjevanja ni samo vprašanje, da vzamete nekaj tablet za pridobitev supermoči. Tukaj morate resnično eksperimentirati z možganskimi vsadki, če želite doseči resne rezultate.
Večina raziskav na tem področju je močno nadzorovana in neverjetno draga. Vsi poskusi z živalmi so vedno dragi. Na primer, Theodor Berger že vrsto let dela na implantatu hipokampa, da bi obnovil in izboljšal delovanje spomina. Leta 2004 so bili opravljeni prvi testi z živim tkivom, vendar so bile od takrat novice zelo redke. Vsakih nekaj let je seveda nekaj novic v novicah, vendar sem do končnega rezultata zelo skeptičen. Zdaj si oglejte stopnjo razvoja, ki smo jo lahko dosegli pri razvoju umetne inteligence!
Ali je AI z vidika predvidljivosti in nadzora videti varnejši od AI? Kaj je bolj pomembno, da ustvarite prvi, AI ali super močan AI?
Izboljšana inteligenca je v primerjavi s super močnim AI bolj nepredvidljiva in neobvladljiva. In na dolgi rok dejansko izgleda še bolj nevarno. Pred kratkim sem napisal članek, ki razmišlja o globalni politični transformaciji, ki jo je sprožila ogromna moč, skoncentrirana v rokah majhne skupine ljudi z AI ali izključnim dostopom do molekularne proizvodnje. V njem sem skoval izraz "Maximilian", kar pomeni "najboljši od najboljših", da bi opisal zelo vpliven voditelj, ki sam uporablja izboljšano tehnologijo obveščanja, da se dvigne nad vse druge.
Kognitivno izboljšan Reginald Barkley iz Zvezdnih poti: Naslednja generacija v epizodi X
Ključna točka mojega sklepanja v članku je, da se morate v primeru izboljšane inteligence ukvarjati z ljudmi in človek, kot veste, je nepopoln. Lahko se izkaže, da bodo morda ljudje z izboljšano inteligenco ohranili določeno raven človeške morale, vendar bodo najverjetneje začeli uporabljati vso moč svojega uma za hedonistične namene in po možnosti celo za genocid.
Umetno superinteligenco je mogoče ustvariti iz nič in jo preprosto narediti tako, da sledi naboru lastnih motivacij (ki bodo tudi vanj vdelane), ki imajo dober začetek, stabilnost in pozitivne povratne informacije.
Ljudje si zastavijo vprašanje: "Ali bi ISI zavrnil te motivacije?" Ne, ne bo, ker bodo te motivacije jedro njegovih vrednot, če so seveda pravilno programirane. Ne bo "duha v avtomobilu", ki bi lahko prezrl ali zavrnil vnaprej programirane motive.
Filozof Nick Bostrom je v svojem delu The Will of the Superintelligence naredil neverjetno analizo. Ključna ideja tega je, da se sebični cilji ne morejo pojaviti sami, če je sistem ključnih nalog AI sprva v osnovi skupek nesebičnih ciljev in če je bistvo obstoja stroja v tem, da ohrani to nesebičnost. Evolucija je pokazala, da imajo sebični cilji pomembno vlogo pri preživetju, še posebej, če upoštevamo evolucijsko konstruktivne omejitve živih organizmov, vendar to ne pomeni, da sami nismo sposobni programirati nezainteresiranih agentov iz nič?
Kakšne težave (tehnološke, medicinske ali etične) stojijo na poti razvoja?
Največji izziv predstavlja razvoj ustreznih proizvodnih tehnologij. Zdaj niti približno nismo blizu tega. Naslednja slaba težava je ugotoviti, za kaj točno je odgovoren vsak posamezen nevron, in določiti natančno lokacijo teh nevronov v posamezni osebi. Ponovno se niti približno nismo približali temu.
Tretjič, razviti moramo hiter način za preizkušanje številnih teorij o delovanju možganov. Ed Boyden imenuje to "vezje presejanja nevronske mreže z visoko prepustnostjo". Najprimernejša in očitna rešitev tega vprašanja je morda ustvarjanje človeka v nezavesti in eksperimentiranje na njem brez kančka vesti ali moralnih dilem. Vendar imam občutek, da bo večina etičnih odborov to idejo sovražno sprejela.
Ker takšne priložnosti ni, moramo najti način, kako ustvariti neprimerljivo podroben model človeških možganov. In da ne govorimo o današnjih napornih poskusih projekta "modeliranja možganov", okoli katerega obstaja toliko hype. Govorimo o brez primere novi ravni, ki je ne bomo mogli doseči do leta 2050-2080. Analiza Oxforda kaže, da gre bolj za 2080. leta. Zdaj je vse videti, kot da bi se na kavi znašlo vedenje, vendar še vedno bližje resničnosti.
NIKOLAY HIZHNYAK
