Morda eden najtežjih preizkusov strojne inteligence je bila šahovska igra, ki se je pred skoraj 20 leti odvijala med računalnikom Deep Blue in svetovnim šahovskim prvakom Garryjem Kasparovom. Avto je zmagal. Trenutno se je serija iger v logični igri go končala, kjer sta se pomerila AI AlphaGo podjetja DeepMind (lastnik Googla) in legendarni go prvak iz Kitajske Li Si Dol. V štirih od petih iger je stroj zmagal in s tem pokazal svojo premoč nad človeškim v tej igri. Neverjetno zapletena igra med človekom in umetno inteligenco kaže, da se je v tem času strojna inteligenca zelo razvila. Zdi se, da je usodni dan, ko stroji zares postanejo pametnejši od ljudi, zdaj bližje kot kdaj koli prej. Vendar se zdi, da mnogi sploh ne razumejo, ampak se celo motijo glede posledic, ki nas lahko čakajo v prihodnosti.
Podcenjujemo nekatere zelo resne in celo nevarne posledice razvoja umetne inteligence. Lani je soustanovitelj SpaceX-a Elon Musk izdal izjavo, v kateri je izrazil zaskrbljenost zaradi morebitnega zasužnjevanja sveta z umetno inteligenco, kar je sprožilo ogromno pripomb tako privržencev kot nasprotnikov tega mnenja.
Za tako temeljno revolucionarno prihodnost, ki nas lahko čaka, je presenetljivo, da je danes toliko nesoglasij glede tega, ali se bo sploh zgodilo in kaj se bo sčasoma izkazalo. Še posebej nenavadno je zanikati neverjetne koristi, ki jih lahko dobimo z ustvarjanjem resnično pametne umetne inteligence, seveda ob upoštevanju vseh možnih tveganj. Na vsa ta vprašanja je neverjetno težko dobiti prave odgovore, saj lahko umetna inteligenca, za razliko od drugih izumov človeštva, to človeštvo resnično "pomladi" ali popolnoma uniči.
Zdaj je težko razumeti, čemu verjeti in čemu upati. Vendar pa se zahvaljujoč pionirjem računalništva, nevroznanstvenikom in teoretikom razvoja umetne inteligence jasna slika počasi začne jasniti. Spodaj je seznam najpogostejših zmot in mitov o umetni inteligenci.
Nikoli ne bomo ustvarili umetne inteligence s humanoidno inteligenco
Resničnost pa nakazuje, da že imamo računalnike, ki se na nekaterih področjih ujemajo in celo presegajo človeške zmožnosti. Vzemite šah ali isto igro, trgovanje na borzah ali vlogo virtualnega sogovornika. Računalniki in algoritmi, ki jih nadzorujejo, se bodo sčasoma izboljšali in samo vprašanje časa je, kdaj bodo postali enaki človeškim zmožnostim.
Promocijski video:
Raziskovalec z newyorške univerze Gary Marcus je nekoč dejal, da "tako rekoč vsi", ki delajo v umetni inteligenci, mislijo, da nas bodo nekoč stroji presegli:
"Edini spor med navijači in dvomljivci je čas tega dogodka."
Futuristi, kot je Ray Kurzweil, verjamejo, da bi se to lahko zgodilo v prihodnjih desetletjih, drugi pa trdijo, da bo trajalo več stoletij.
Skeptiki umetne inteligence niso prepričljivi v svojih dokazih, da je ustvarjanje umetne inteligence kot nečesa edinstvenega in v tehnološkem smislu zelo podobnega resničnim živim človeškim možganom nekje zunaj resničnosti. Naši možgani so tudi stroj. Biološki stroj. Obstaja v istem svetu in spoštuje enake fizikalne zakone kot vse ostalo. In sčasoma bomo v celoti razkrili celotno načelo njenega dela.
AI bo imel zavest
Obstaja splošno soglasje, da bo strojna inteligenca zavestna. To pomeni, da bo umetna inteligenca razmišljala enako kot človek. Poleg tega nekateri kritiki, na primer soustanovitelj Microsofta Paul Allen, menijo, da zaradi nepopolne teoretične podlage, ki opisuje mehanizme in načela samozavedanja, še nismo ustvarili niti splošne umetne inteligence, torej inteligence, ki bi lahko opravljala kakršne koli intelektualne naloge, s katerimi bi človek zmore. Vendar pa po besedah Murrayja Shanahana, docenta na oddelku za kognitivno robotiko na Imperial College London, ne bi smeli enačiti obeh.
"Samozavedanje je vsekakor zelo zanimiva in pomembna tema raziskovanja, vendar ne verjamem, da bi moralo biti samozavedanje obvezen atribut človeku podobne umetne inteligence," pravi Shanahan.
"Izraz" samozavedanje "na splošno uporabljamo samo za označevanje več psiholoških in kognitivnih lastnosti, ki so pri človeku običajno povezane."
Mogoče si je predstavljati zelo pameten avtomobil, ki nima enega ali več teh lastnosti. Nekega dne bomo lahko zgradili zares neverjetno inteligenten AI, a hkrati brez sposobnosti samozavedanja, pa tudi subjektivnega in zavestnega razumevanja sveta okoli nas. Shanahan ugotavlja, da bo poenotenje inteligence in samozavedanja znotraj stroja še vedno mogoče, vendar ne smemo spregledati dejstva, da gre za dva povsem ločena koncepta.
In čeprav je bila ena od različic "Turingovega testa", v kateri je stroj pokazal, da se ne razlikuje od človeka, uspešno opravljena, to sploh ne pomeni, da ima ta stroj zavest. Z našega (človeškega) vidika se nam napredna umetna inteligenca morda zdi nekaj, kar ima samozavedanje, toda sam stroj se ne bo zavedal več kot isti kamen ali kalkulator.
Ne smemo se bati umetne inteligence
Januarja letos je ustanovitelj Facebooka Mark Zuckerberg delil svoja razmišljanja o tem, kako se ne smemo bati umetne inteligence, in dodal, da lahko ta tehnologija prinese izjemne koristi po vsem svetu. Resnica je, da ima le delno prav. Z umetno inteligenco, ki jo imamo na voljo, bomo res lahko izkoristili neverjetne koristi (od samovozečih avtomobilov do novih odkritij v medicini), vendar nihče ne more zagotoviti, da bo vsaka uporaba umetne inteligence koristna.
Mogoče bo zelo inteligenten sistem vedel vse, kar je potrebno za nekatere naloge (na primer za reševanje zapletenega globalnega finančnega stanja ali vdor v sovražnikove računalniške sisteme), vendar je zunaj visoko specializiranih nalog potencial umetne inteligence še vedno popolnoma nejasen in zato potencialno nevaren. Na primer, sistem DeepMind je specializiran za igro go, vendar nima sposobnosti (in razloga) za raziskovanje področij zunaj tega področja.
Računalniški virus Flame, katerega naloga je bila slediti državam Bližnjega vzhoda
Mnogi od teh sistemov lahko predstavljajo resna varnostna tveganja. Dober primer je močan in zelo zvit virus Stuxnet, militariziran črv, ki ga je ameriška in izraelska vojska ustvarila za infiltracijo in napad na iranske jedrske elektrarne. Le ta zlonamerni program je nekako (naključno ali namerno) okužil tudi eno od ruskih jedrskih elektrarn.
Drug primer je virus Flame, razvit za ciljno kibernetsko vohunjenje na Bližnjem vzhodu. Lahko si predstavljamo, kako bodo "prihodnje različice" virusov Stuxnet in Flame samostojno presegle svoje dodeljene naloge in bodo lahko okužile skoraj vso infrastrukturo države. In to bodo storili zelo tiho in neopazno.
Umetna superinteligenca bo preveč pametna, da bi delala napake
Richard Luzmore, matematik, raziskovalec umetne inteligence in ustanovitelj podjetja za robotiko Surfing Samurai Robots, meni, da je večina scenarijev o končnem dnevu umetne inteligence malo verjetnih, ker vsi temeljijo na tem, kar bo nekoč rekel umetni inteligenc: "Razumem to uničenje ljudje je napaka v moji programski kodi, vendar moram še vedno slediti nalogi."
Luzmore verjame, da se bo umetna inteligenca, če se bo vedla po tem scenariju, soočila z logičnimi protisloviji, ki bodo podvomila v celotno nabrano bazo znanja in sčasoma privedla do lastnega zavedanja svoje neumnosti in neuporabnosti.
Raziskovalec tudi meni, da se motijo tisti, ki pravijo, da bo "umetna inteligenca delala samo tisto, kar je vključeno v njen program", tako kot tisti, ki so nekoč govorili iste besede, vendar proti računalnikom, ki izjavlja, da računalniški sistemi nikoli ne bodo imeli univerzalnosti.
Peter McIntyre in Stuart Armstrong, oba na Inštitutu za prihodnost človeštva na univerzi v Oxfordu, se s tem mnenjem ne strinjata in trdita, da bo vedenje umetne inteligence obvezno in v veliki meri upravičeno s programskim kodeksom. Znanstveniki ne verjamejo, da umetna inteligenca nikoli ne bo naredila napak ali, nasprotno, bo preveč neumna, da bi natančno razumela, kaj želimo od njih.
"Umetna superinteligenca (ISI) je po definiciji agent, katerega inteligenca bo večkrat presegla najboljše možgane človeštva na skoraj vseh področjih," pravi McIntyre.
"Vsekakor bo razumel, kaj želimo od njega."
McIntyre in Armstrong verjameta, da bo umetna inteligenca opravljala samo tiste naloge, za katere je bila programirana, če pa se bo nekako razvila sama od sebe, bo najverjetneje poskušala ugotoviti, v kolikšni meri se bodo njeni ukrepi razlikovali od človeških nalog in so ji neločljivo povezani. zakoni.
McIntyre primerja prihodnost ljudi s prihodnostjo miši. Miši imajo močan instinkt za iskanje hrane in zavetja, vendar so njihovi cilji zelo pogosto v nasprotju z osebo, ki jih ne želi videti v svojem domu.
"Tako kot naše znanje o miših in njihovih željah lahko tudi superinteligenčni sistem ve vse o nas in ve, kaj hočemo, hkrati pa bo popolnoma brezbrižen do naših želja."
Preprosta rešitev odpravlja težave z nadzorom umetne inteligence
Kot je prikazano v filmu "Iz stroja", bo zelo težko nadzorovati AI, ki bo veliko pametnejši od nas
Če predpostavimo, da bomo nekega dne ustvarili superinteligenco, ki bo pametnejša od ljudi, se bomo morali soočiti z resnim problemom, problemom nadzora. Futuristi in teoretiki umetne inteligence še niso znali razložiti, kako lahko upravljamo in vsebujemo ISI po njegovi ustanovitvi. Prav tako ni jasno, kako lahko zagotovimo, da bo prijazen do ljudi. V zadnjem času so raziskovalci na Georgia Institute of Technology (ZDA) naivno predlagali, da se umetna inteligenca lahko uči in absorbira človeške vrednote in znanje o družbenih normah s preprostim branjem preprostih pravljic. Da, ja, preproste otroške pravljice in zgodbe, ki so nam jih starši brali v otroštvu. Toda v resnici se bo vse izkazalo za veliko bolj zapleteno kot vse to.
"Za vprašanje nadzora nad umetno inteligenco je bilo predlaganih veliko tako imenovanih" rešitev "," pravi Stuart Armstrong.
Primer takšnih rešitev je lahko programiranje ISI na tak način, da nenehno poskuša ugajati ali ugajati osebi. Druga možnost bi bila vključitev konceptov, kot sta ljubezen ali spoštovanje, v svojo izvorno kodo. Da bi se izognili takšnemu razvoju scenarija, v skladu s katerim lahko umetna inteligenca poenostavi vse te koncepte in svet zaznava skozi prizmo teh super poenostavljenih konceptov in ga deli le na črno-belo, ga lahko programiramo za razumevanje in sprejemanje intelektualne, kulturne in družbene raznolikosti.
Trije zakoni robotike Isaaca Asimova se popolnoma prilegajo konceptu fikcije, v resnici pa potrebujemo nekaj bolj celovitega, da bi obravnavali vprašanje nadzora
Na žalost so te rešitve preveč preproste in izgledajo kot poskus, da se v okvir ene splošne definicije ali koncepta prilega celotni zapletenosti človeških všeč in ne mara, ali kot poskus, da se celotna kompleksnost človeških vrednot prilega eni besedi, besedni zvezi ali ideji. Na primer, poskušajte v ta okvir umestiti dosledno in primerno definicijo za pojem "spoštovanje".
»Seveda ne smemo pomisliti, da so tako preproste možnosti popolnoma neuporabne. Mnogi od njih ponujajo odličen razlog za razmišljanje in morda spodbudijo iskanje rešitve za končni problem, «pravi Armstrong.
"Vendar se nanje ne moremo zanašati samo brez bolj zapletenega dela, brez jasnih raziskav in iskanja posledic uporabe določenih rešitev."
Uničila nas bo umetna superinteligenca
Nihče ne more zagotoviti, da nas bo umetna inteligenca nekoč uničila, tako kot nihče ne more z gotovostjo trditi, da ne bomo mogli najti načinov za nadzor in uporabo umetne inteligence za svoje namene. Kot je nekoč dejal ameriški strokovnjak za umetno inteligenco Eliezer Yudkowski: "AI vas ne more imeti rad ali sovražiti, toda sestavljeni ste iz atomov, ki bi jih lahko uporabil za kaj drugega."
Oxfordski filozof Nick Bostrom v svoji knjigi Superinteligenca: načini, nevarnosti in strategije piše, da se bo prava superinteligenca nekoč lahko uresničila, zaradi česar bo postala bolj nevarna kot kateri koli izum, ki ga je kdajkoli ustvaril človek. Ugledni sodobni misleci, kot so Elon Musk, Bill Gates in Stephen Hawking (mnogi menijo, da je "umetna inteligenca lahko najhujša napaka v človeški zgodovini"), se bolj verjetno strinjajo s tem mnenjem in že sprožajo alarm.
Peter McIntyer verjame, da bodo ljudje pri večini nalog, ki si jih lahko postavi superinteligenca, videti kot dodatna povezava.
»AI bo nekoč lahko sklenil - in treba je vedeti, da bo to izračunal povsem pravilno -, da ga ljudje nočejo uporabljati za povečanje donosnosti katerega koli podjetja za vsako ceno, ne glede na posledice za potrošnike, okolje in živa bitja. Zato bo imel ogromno spodbudo za razvoj načrta in strategije, zahvaljujoč kateri človek ne bo mogel posegati v rešitev naloge, tako da jo bo spremenil ali celo izklopil AI."
Po MacIntyerju, če so naloge umetne inteligence neposredno nasprotne našim, mu bo to dalo velike razloge, da nas ne bo ustavil. In če pomislimo, da bo raven njegove inteligence veliko višja od naše, ga bo res zelo zelo težko ustaviti, če je le mogoče.
Vendar zdaj ni mogoče z gotovostjo reči ničesar in nihče ne bo mogel reči, s katero obliko umetne inteligence bomo morali ravnati in kako lahko ogrozi človeštvo. Kot je nekoč dejal Elon Musk, se umetna inteligenca dejansko lahko uporablja za nadzor, sledenje in nadzor drugih umetnih inteligenc. In morda bodo vanj vpeljane človeške vrednote in začetna prijaznost do ljudi.
Umetna superinteligenca bo prijazna
Filozof Immanuel Kant je menil, da je inteligenca močno povezana z moralnimi načeli. V svojem delu Singularity: A Philosophical Analysis je nevroznanstvenik David Chalmers za osnovo vzel Kantovo slavno idejo in jo poskušal uporabiti za analizo tvorbe umetne superinteligence.
»Če so načela, opisana v tem prispevku, pravilna, potem je treba poleg ostrega razvoja umetne inteligence pričakovati tudi močan razvoj moralnih načel. Nadaljnji razvoj bo privedel do pojava sistemov ISI, ki bodo imeli supermoral in superinteligenco. Zato bi morali pričakovati le dobrohotne lastnosti z njihove strani."
Resnica je, da ideja naprednega umetnega inteligenca z moralnimi načeli in izjemno vrlino ne drži vode. Kot poudarja Armstrong, je svet poln pametnih vojnih zločincev. Intelekt in morala v človeku na primer nista povezani na noben način, zato znanstvenik dvomi, da bo tak odnos obstajal v drugih oblikah inteligence.
»Pametni ljudje, ki se obnašajo nemoralno, ponavadi ustvarjajo veliko več težav in bolečine kot njihovi manj inteligentni kolegi. Inteligenca jim omogoča, da so bolj prefinjeni v svojih slabih kot v dobrih dejanjih, «pravi Armstrong.
McIntyre pojasnjuje, da sposobnost agenta, da izpolni določeno nalogo, nima nič skupnega s tem, kaj je ta naloga.
»Imeli bomo veliko srečo, če bodo naši umetni inteligenci bolj moralni, ne le pametni. Zanašanje na srečo je seveda zadnja stvar v tej zadevi, a morda bo prav sreča tista, ki bo določila naše stališče v prihodnosti, «pravi raziskovalec.
Tveganja, povezana z umetno inteligenco in robotiko, so enaka
To je še posebej pogosta napačna predstava, ki se uporablja v medijih, pa tudi v hollywoodskih uspešnicah, kot je The Terminator.
Če hoče umetna superinteligenca, na primer Skynet, resnično uničiti celotno človeštvo, potem je malo verjetno, da bo uporabljal paravojaške androide z mitraljezi v vsaki roki. Njegovo zvito in učinkovito razmišljanje mu bo omogočilo, da bo razumel, da bo veliko bolj priročno uporabiti recimo novo vrsto biološke kuge ali na primer kakšno nanotehnološko katastrofo. Ali pa bo preprosto vzel in uničil ozračje našega planeta. AI je potencialno nevaren ne samo zato, ker je njegov razvoj tesno povezan z razvojem robotike. Razlog za njegovo potencialno nevarnost je v metodah in sredstvih, s katerimi lahko svetu razglasi svojo prisotnost.
AI v znanstveni fantastiki odraža našo prihodnost
Brez dvoma pisatelji in pisci znanstvene fantastike že vrsto let uporabljajo okolje znanstvene fantastike kot odskočno desko za špekulacije o naši resnični prihodnosti, vendar dejansko ustvarjanje ISI in resnične posledice tega še vedno presegajo obzorje našega resničnega znanja. Še več, takšna umetna in očitno nečloveška narava umetne inteligence nam niti ne omogoča, da s kakršno koli natančnostjo domnevamo, kakšna bo ta umetna inteligenca.
V večini znanstvenofantastičnih del je umetna inteligenca čim bližje ljudem.
»Pred nami je pravzaprav cel spekter najrazličnejših možnih tipov uma. Tudi če vzamemo samo človeško obliko. Na primer, vaš um še zdaleč ni enak misli vašega bližnjega. Toda ta primerjava je le kapljica v morje vse možne raznolikosti umov, ki bi lahko obstajala, «pravi McIntyre.
Večina znanstvenofantastičnih fikcij je seveda ustvarjenih predvsem zato, da pripovedujejo zgodbo, ne pa da bi bili čim bolj znanstveno prepričljivi. Če bi bilo obratno (znanost je pomembnejša od zapleta), potem bi bilo nezanimivo spremljati takšna dela.
“Zamislite si, kako dolgočasne bi bile vse te zgodbe, kjer umetna inteligenca brez samozavedanja, sposobnosti veselja, ljubezni ali sovraštva uniči vse ljudi tako rekoč brez kakršnega koli odpora, da bi dosegla svoj cilj, ki mimogrede morda tudi ni zelo zanimiv za bralca ali gledalca, «komentira Armstrong.
AI bo prevzel naša dela
Sposobnost AI za avtomatizacijo procesov, ki jih izvajamo ročno, in njen potencial za uničenje celotnega človeštva nista isti stvari. Vendar pa po besedah Martina Forda, avtorja knjige Rise of the Robots: Technology and Threat of A Jossless Future, te koncepte pogosto skušajo primerjati in združiti v skladno celoto. Seveda je čudovito, da poskušamo predvideti posledice ustvarjanja umetne inteligence do zdaj, vendar le, če nas ta trud ne odvrne od težav, s katerimi se bomo lahko srečali v nekaj desetletjih, če ne naredimo ničesar. In eden glavnih takih problemov je množična avtomatizacija.
Le redki bi trdili, da bo eden od izzivov umetne inteligence najti način za avtomatizacijo številnih delovnih mest, od tovarniških do nekaterih delovnih mest. Nekateri strokovnjaki napovedujejo, da bo polovica vseh delovnih mest, vsaj v ZDA, v bližnji prihodnosti morda avtomatizirana.
A to sploh ne pomeni, da takšnih sprememb ne bomo mogli sprejeti. Pomembno je razumeti, da je želja po razbremenitvi nepotrebnega fizičnega in psihološkega stresa pri delu pravzaprav že dolgo sanje naše človeške vrste.
»V nekaj desetletjih bo AI resnično nadomestil ljudi na številnih delovnih mestih. In to je pravzaprav zelo dobro. Na primer, samovozeči avtomobili bodo zamenjali tovornjakarje, kar pa ne bo samo znižalo stroškov pošiljanja blaga, ampak tudi znižalo stroške samega blaga. Če delate kot voznik tovornjaka, potem seveda ostajate zadnji, a vsi ostali v tem primeru bodo bolj verjetno prejeli povišanje plač. In bolj ko je ta denar mogoče prihraniti, več tega denarja lahko porabimo za drugo blago in storitve, s katerimi se bodo ljudje ukvarjali na svojih delovnih mestih."
Najverjetneje bo umetna inteligenca iskala nove načine dobrega počutja in hranila ljudi, medtem ko delajo druge stvari. Napredek v razvoju umetne inteligence bodo spremljali uspehi na drugih področjih. Predvsem v predelovalnih sektorjih. V prihodnosti bo vse to verjetno močno poenostavilo in ne otežilo zadovoljevanja naših osnovnih potreb.