Zaskrbljen nad razvojem umetne inteligence, ki ga je ustvaril sam, Google razvija "gumb", ki lahko izklopi AI v primeru nevarnosti in nevarnosti za človeka. Ta novica, ki so jo poročali novinarji junija 2016, je dodala gorivo za tesnobo glede prihodnjih odnosov med roboti in ljudmi.
Leta 2016 so avtoritativne zahodne publikacije poročale, da Google razvija "velik rdeč gumb", zasnovan za zaustavitev AI, če umetna inteligenca ogroža človeštvo. Po mnenju novinarjev so se strokovnjaki iz Googlovega oddelka - Deep Mind - združili z znanstveniki z univerze Oxford. Za raziskave je bilo namenjenih 400 milijonov funtov. "Če agent (AI) deluje v realnem času pod človeškim nadzorom, potrebuje operater velik rdeč gumb, ki ga lahko pritisne, da prepreči neželena dejanja agenta," pojasnjujejo spletne publikacije.
Že prej je bil na spletu objavljen dokument z naslovom "Varno moteči agenti". Njeni avtorji sta Lauren Orso iz Deep Mind in Stuart Armstrong z univerze Oxford. Dokument opisuje možno bodočo soseščino ljudi z umetno inteligenco, ki nasprotujejo željam in težnjam človeštva, kot sta fantastični Skynet in Terminator. To se ne zdi noro glede na to, da je ne tako dolgo nazaj najstarejša in največja ameriška odvetniška pisarna Baker & Hostetler "najela" odvetnika z roboti, da pomaga pri postopku. Umetno inteligenco poganja superračunalnik IBM Watson. Kar zadeva Deep Mind, je bil prej pravi junak za novice umetna inteligenca, ki jo je razvilo podjetje Alpha Go, ki je premagala enega najmočnejših go igralcev, velemojstra Leeja Sedola. Ta zmaga je bila razlog, da je Južna Koreja močno spodbudila razvoj lastne umetne inteligence in za to namenila pomembna sredstva iz proračuna. Dodati je treba, da je vodja Deep Mind Demis Hassabis ljudi pozval, naj bodo previdni glede informacij, ki so jih dali javnosti. V svojem Twitter računu je ugotovil, da kljub govoricam, ki so gostovale po internetu, podjetje še ne napoveduje prihodnosti umetne inteligence Alpha Go. "Ko se bomo odločili, bomo dali uradno izjavo," je pojasnil vodja podjetja.podjetje še ne napoveduje prihodnosti umetne inteligence Alpha Go. "Ko se bomo odločili, bomo dali uradno izjavo," je pojasnil vodja podjetja.podjetje še ne napoveduje prihodnosti umetne inteligence Alpha Go. "Ko se bomo odločili, bomo dali uradno izjavo," je pojasnil vodja podjetja.
Evropski prvak Fan Hui igra go / wikipedia.
Elon Musk: "Mi smo že kiborgi"
Zaskrbljenost nad prihajajočimi zapleti v odnosu med roboti in človekom je vedno večja. Poleg tega o tej tesnobi govorijo glavni privrženci znanstvenega in tehnološkega napredka. Na primer Elon Musk, ki je avgusta 2014 sporočil, da je tehnologija umetne inteligence "nevarnejša od jedrskega orožja." In nekaj mesecev pozneje je ustvarjalec Tesle in SpaceX v pogovoru s študenti na Massachusetts Institute of Technology označil AI "največjo grožnjo našemu obstoju." Hkrati je Musk do konca leta 2015 soustanovil neprofitno raziskovalno podjetje OpenAI, svoj cilj pa je pojasnil s potrebo po odprtju procesa ustvarjanja umetne inteligence. "Če imate" gumb ", ki lahko na svetu dela slabe stvari, ga ne želite deliti," je pojasnil Musk.
Konec maja 2016 je Elon Musk, ko je govoril na letni konferenci Recode, spregovoril o določenem projektu ali morda le ideji o "nevronski čipki", ki naj bi zmanjšala tveganje, da bo človeštvo postalo najljubša igrača v železnih rokah robotov. "Na primer, imate limbični sistem, možgansko skorjo in to je tretji sistem, digitalni sloj, ki dobro deluje s svojim telesom. Ker možgani delujejo v simbiozi z limbičnim sistemom, bo ta digitalna plast delovala v sozvočju s preostalim telesom, "je dejal Musk. Ta nevronski sistem naj bi povečal stopnjo sprejema in prenosa informacij s strani človeka, zmožnost njegove obdelave. "Mi smo že kiborgi," je dejal Musk in pojasnil, da so internet, mobilni telefoni in drugi pripomočki v resnici razvili supermoči pri ljudeh. "Vendar smo omejeni v sprejemanju in prenosu informacij. Še posebej v programu ",Dodal Musk. Ljudje lahko sprejemajo in razlagajo precej veliko količino informacij, vendar je generiranje teh informacij veliko težje. Oseba lahko govori samo hitro, hitro piše ali tipka. "Nevronska čipka" bi s povezovanjem osebe v digitalni komunikacijski sistem lahko presegla to biološko omejitev. Musk ni razmišljal o tem, ali bo to "čipko" vsadil v telo ali jo gojil po naravni poti, na primer z urejanjem genov, vendar je ugotovil, da lahko prehaja "skozi vene in arterije", ki zagotavljajo poti nevronom.bi lahko presegla to biološko omejitev. Musk ni razmišljal o tem, ali bo to "čipko" vsadil v telo ali jo gojil po naravni poti, na primer z urejanjem genov, vendar je ugotovil, da lahko prehaja "skozi vene in arterije", ki zagotavljajo poti nevronom.bi lahko presegla to biološko omejitev. Musk ni razmišljal o tem, ali se bo ta "čipka" vsadila v telo ali gojila po naravni poti, na primer z urejanjem genov, vendar je ugotovil, da lahko prehaja "skozi vene in arterije", ki zagotavljajo poti nevronom.
Promocijski video:
Vendar obstaja tudi nasprotno stališče. Predsednik upravnega odbora Alphabet (Google) Eric Schmidt je v intervjuju za Tech Insider bil skeptičen do govorov Elona Muska in njegovega kolega Stephena Hawkinga, ki je tudi prej opozoril na morebitno hegemonijo AI. „Stven Hawking je zagotovo genij, vendar ni računalniški strokovnjak. Elon je tudi čudovita oseba, vendar je tudi bolj fizik kot računalničar, "je dejal Schmidt. O potencialnem scenariju prihodnosti, v katerem roboti uničujejo človeštvo, je navedel naslednje: "Tak scenarij preprosto opiše scenarij, v katerem računalniki postanejo tako pametni, da se v nekem trenutku zaradi, recimo, hrošča v programu, odločijo uničiti človeštvo. Moje vprašanje za vas je naslednje: ali ne misliteda bodo ljudje to opazili in začeli ugašati računalnike? Prišli bomo do tekme med ljudmi, ki izklapljajo računalnike, AI pa se srčno poskušajo premakniti na napravo, ki še ni izklopljena. In tako naprej do zadnjega računalnika. In tega ne moremo izključiti. To je film, film. Trenutno stanje v svetu takšnega scenarija ne podpira."
Obsežna robotizacija
Neil Jacobstein, sopredsednik Nasine univerze za singularnost, je za PCmag povedal, da so svetovna podjetja v raziskave AI v letih 2011 in 2015 vložila več kot tri milijarde dolarjev. Poleg velikih vlagateljev, vključno s Facebookom in Googlom, obstaja tudi vrsta manj znanih startupov. Na primer, Brighterion se ukvarja z uporabo umetne inteligence pri analizi oblakov in industrijskem IoT, Feedzai usposablja robote za odkrivanje prevar pri bančnih transakcijah, Experpert uporablja AI za učinkovito reševanje poslovnih težav trgovcev in tako naprej. Se pravi, da obseg razvoja umetne inteligence na svetu zdaj ni omejen na ducat glavnih akterjev na trgu IT - je veliko večji. Jacobstein je v svojem intervjuju v bistvu nadaljeval Muskovo misel,prav tako vztrajajo, da je treba razviti človeške možgane za boj proti sintetičnim. »Vsi imamo enake težave. Možgani so omejeni v hitrosti, spominu, pasovni širini in pristranskosti, je dejal Neil Yakobstein.
Po mnenju znanstvenika se trend razvoja AI zdaj giblje v smeri nastanka umetnega neokorteksa (nove možganske skorje, ki predstavlja večino korteksa pri ljudeh v nasprotju z nižjimi sesalci) in hipokampusa. Tako bodo možgani robota kot človeški, le mnogokrat močnejši in hitrejši. "AI postaja vse močnejši in odločiti se moramo, kako se bomo obnašali v okviru trenutne evolucije. Tako glede nalog, ki smo si jih zastavili za umetno inteligenco, in glede tega, kako želimo graditi svoj odnos, ne da bi pri tem izgubili človekovo samozavest, «je pojasnil Yakobstein. Po mnenju znanstvenika bo v začetku interakcija ljudi in robotov "elitni proces", potem pa bo vstopila v vsakdanje življenje, kot so to nekoč počeli mobiteli. "S pametnim telefonom vaši možgani dobijo dostop do vsega znanja o svetu in močne umetne inteligence,obdelava digitalnih informacij. Z AI že imate simbiozo, «je zaključil Jacobstein.
Meso mesa
Vendar se lahko izkaže, da grožnja človeštvu ne bo iz žlez in žic, temveč iz organskega "mesa iz mesa." Konec maja 2016 je svetovno znanstveno skupnost zaintrigiralo preteklo "skrivno srečanje na Harvardu", katerega udeleženci želijo iz nič ustvariti umetni človeški genom in s tem tudi človek sam. Podrobnosti o srečanju na straneh Live Science je povedal diplomant univerze Harvard, molekularni biolog, specializiran za urejanje genov, Jeff Bessen. Kot se je izkazalo, ne govorimo o nekaj domišljije Frankensteina. Na Harvardu se je zbralo več kot 130 znanstvenikov, industrijalcev in etikov, da bi razpravljali o projektu HGP. Ime je v resnici sklicevanje na podoben projekt,zaradi česar je bilo leta 2003 mogoče popolnoma sekvencirati človeški genom. Projekt se je začel leta 1990 pod vodstvom Jamesa Watsona pod okriljem Nacionalne zdravstvene organizacije ZDA, njegov cilj pa je bil določiti zaporedje nukleotidov, ki sestavljajo DNK, in identificirati 20-25 tisoč genov v človeškem genomu.
Ustvarjanje genoma ima svojo zgodovino. Leta 2010 je ameriški biolog John Craig Venter dešifriral prvi genom mikroorganizma - bakterijo Haemophilus influenzae - in napovedal ustvarjanje umetne celice. Venter je predstavil prvi umetni organizem na svetu, sintetično bakterijo z imenom Cynthia. Od takrat so znanstveniki sistematično poskušali napredovati v raziskavah, med njimi tudi organizator srečanja s Harvarda - ameriški genetičar Jeff Bouquet, ki je prvi ustvaril funkcionalni evkariontski kromosom, ki ga vsebuje kvasovka.
Vendar pa takšno delo pride do stroškov. Ustvarjanje sintetične bakterije za istega Venterja je stalo več kot 40 milijonov dolarjev in trajalo leta dela. Strokovnjaki menijo, da bo v trenutnih razmerah proizvodnja enega človeškega genoma stala približno 90 milijonov dolarjev. Če pa se podjetje "sprosti" in se uporabijo preizkušene tehnologije, do leta 2036 ta znesek lahko pade na 100 tisoč dolarjev. Poleg tega obstaja industrijska težava - zmogljivost vseh laboratorijev na svetu, po Jeffu Bessenu, danes ni dovolj za ustvarjanje enega človeškega genoma.
Od učenja do ustvarjanja
Kot je poudaril Jeff Bessen, so znanstveniki na srečanju na Harvardu znanstvenike pozvali k premiku od branja genoma k njegovemu ustvarjanju iz gradnikov DNK. Kot so si zamislili mojstri HGP, vključno z genetikom George Churchom, njegovim ameriškim kolegom Jeffom Bouquetom in odvetnikom za biotehnologijo pri Autodesku Nancy Kelly, je mogoče "popolnoma sintetizirati človeški genom v celični liniji." Proces ustvarjanja umetne DNK je po Jeffu Bessenu podoben postopku ofsetnega tiska - glavna stvar je, da vse postavite v pravilen vrstni red. Rezultat je kemijsko enak naravni makromolekuli. Svetovni trg za sintetizirano DNK (govorimo o obstoječem ustvarjanju posameznih elementov DNK, ne pa o popolnem genomu) je zdaj ocenjen na približno milijardo dolarjev na leto. Umetna makromolekula ima praktične aplikacije:to je gojenje človeških organov za presaditev, ustvarjanje imunosti proti virusom, raku, ustvarjanje novih zdravil ipd. Udeleženci srečanja na Harvardu so izrazili upanje, da bo njihovo delo pomagalo "razviti varnejšo, cenejšo in učinkovitejšo terapijo."
Skrivno halo okoli tega srečanja je enostavno razložiti: projekt je etično dovolj kompleksen in ni znano, kako bodo ideje znanstvenikov dojemali širša javnost. Zlasti zdaj so organizatorji dejansko že vložili pripombe v zvezi s srečanjem pred uradno objavo rezultatov srečanja.
Za HGP je res veliko vprašanj. "Kako dobro bo študirati in nato ustvariti Einsteinov genom?" - Omamljen bioinženir iz Stanforda Drew Andy. Dr. Church in bioinženir Andy, mimogrede, že dolgo sodelujeta - skupaj sta ustanovila podjetje Gen9, katerega specializacija je razvidna iz imena. Nekateri strokovnjaki verjamejo, da bo sodelovanje gospodarstvenikov na sestanku in domnevno zasebno financiranje projekta sčasoma privedlo do "privatizacije tehnologije genske modifikacije". Predlagali so tudi, da raziskovalci lovijo podzemne načrte za kloniranje ljudi s pomočjo sintetične DNA. Po Jeffu Bessenu lahko kemična proizvodnja človeškega genoma - zbirka genetskih navodil, vsebovana v vsaki celici - resnično da nov pomen izrazu "otroška epruveta." "Če bi takšna tehnologija obstajala,genom vsake osebe bi lahko na željo nekoga razvozlali in nato sintetizirali, «opozarja Bessen.
Kloni iz prihodnosti
Strah pravzaprav ni neutemeljen. Kitajski znanstveniki, ki so konec leta 2015 predstavili projekt "tovarne klonov", so pozneje objavili pripravljenost za kloniranje ljudi. Kitajska skupina Boyalife bo v sodelovanju s Južnokorejsko fundacijo Sooam Biotech Research in Kitajsko akademijo znanosti v severnem Kitajskem zgradila največji svetovni objekt za kloniranje. Po podatkih znanstvenikov bo obseg proizvodnje kloniranih krav do leta 2020 znašal milijon na leto. V prihodnosti se "tovarna klonov" namerava ukvarjati tudi s proizvodnjo dirkalnih konj in policijskih psov s specializiranimi sposobnostmi (povečan vonj in iskanje). Drugo zanimanje za podjetje je kloniranje primatov za medicinske poskuse. Zato je izjava vodstva bodoče tovarne o njeni pripravljenosti za prehod s primatov na človeka postala logična.„Tehnologija je že tam. Če bo to uradno dovoljeno, mislim, da se nihče ne bo spoprijel z njim bolje kot Boyalife, «je novinarjem povedal izvršni direktor bodoče tovarne Xu Xiaochong. Poudaril je, da podjetje ni izvedlo nobenih poskusov na področju kloniranja ljudi.
A kljub temu, da je treba obravnavati etična vprašanja, je po Bessenovem mnenju ustvarjanje človeškega genoma še vedno sanje. "Danes ni učinkovitega načina za presaditev umetnega genoma v človeško celico. Tudi najbolj impresivni dosežki v tem pogledu, na primer projekt "kvasovk" dr. Bouqueta, so po obsegu stokrat manjši od trenutnega izziva. Izdelava genoma sadne muhe ali ogorčice je desetkrat lažja in varnejša v smislu etike, lahko odgovori na enaka vprašanja, ki jih želijo dobiti s sintezo človeškega genoma, "je prepričan molekularni biolog.
Harvardski "Zadnja večerja" je dejal, da je razkril še en problem sodobne znanosti - njen konzervativizem. Novinarji so o projektu izvedeli na internetu, v družbenih omrežjih. Do uradnih informacij je dolga pot. "Nekoč sva s kolegoma čakala šest mesecev za objavo potrebne znanstvene publikacije," dodaja Bessen. Po mnenju znanstvenika morajo njegovi sodelavci zdaj kritično najti ravnotežje med nadzorom publikacij in pravico novinarjev, da opravljajo svoje delo, kar na koncu vpliva na znanstvene informacije.
Aleksander Kornev