Nekega večera avgusta 2010 je 34-letni Londončan po imenu Demis Hassabis zasedel oder v konferenčni sobi na obali zaliva San Francisco. S plezalno gredo moškega, ki poskuša nadzorovati živce, se povzpne na stopničke in stisne ustnice v kratek nasmeh in reče: "No, danes bi rad govoril o različnih pristopih k ustvarjanju …". Ustavil se je, kot da bi spoznal, kako glasno izjavlja svoje ambicije. In to je rekel: "AGI".
AGI pomeni General Artificial Intelligence, hipotetični računalniški program, ki lahko opravlja tako intelektualne naloge kot človeške ali še boljše. AGI bo lahko opravljal posebne naloge, na primer prepoznavanje ljudi na fotografijah ali prevajanje jezikov, ki trenutno lahko izvajajo številne ločene umetne inteligence v naših telefonih in računalnikih. Tako bodo lahko nadaljevali pogovor, igrali šah in govorili francosko hkrati. Znali bodo razumeti knjige fizike, pisati romane, razvijati naložbene strategije in vzdrževati priložnostne pogovore z neznanci. Spremljali bodo jedrske reakcije, upravljali z električnimi omrežji in prometom ter brez truda uspeli pri vsem drugem. AGI bo danes najbolj napreden AI izgledal kot žepni kalkulatorji.
Edini intelekt, ki trenutno lahko opravlja vse te naloge, pripada človeku. Toda človeški um je omejen z velikostjo lobanje, v katerem so možgani. Njegova moč je omejena z majhno količino energije, ki jo telo lahko zagotovi. Ker bo AGI deloval na računalnikih, te omejitve ne bodo trpele. Njegova inteligenca bo omejena le s številom razpoložljivih procesorjev. AGI se lahko začne s spremljanjem jedrskih reakcij. Toda kmalu bo odkril nove vire energije in prebavil več fizičnega dela na sekundo, kot ga lahko človek v tisoč letih. Inteligenca na ravni ljudi, podprta s hitrostjo in razširljivostjo računalnikov, nam bo rešila težave. Hassabis je za britanski časnik Observer dejal, da pričakuje, da se bo AGI med drugim spopadel s težavami, kot so "rak,podnebne spremembe, energija, genomika, makroekonomija in finančni sistemi."
Konferenca, na kateri je govoril Hassabis, se je imenovala vrh o singularnosti. Futurologi po mnenju futurologov pomenijo singularnost - prvi del imena - najverjetnejšo posledico nastanka AGI. Ker bo AGI obdeloval informacije z veliko hitrostjo, bo zelo hitro postal zelo inteligenten. Hitri cikli samopopolnjevanja bodo privedli do eksplozije strojne inteligence, ljudem pa puščali silikonski prah. Ker ta prihodnost temelji izključno na nepreverjenih domnevah, se skoraj religiozno domneva, da se bo Singularnost izkazala za utopijo ali pekel.
Sodeč po naslovih govorov so udeleženci konference bolj verjeli v prvi izid: "Um in kako ga zgraditi", "AI proti staranju", "Zamenjava naših teles", "Spreminjanje meje med življenjem in smrtjo". Govor Hassabisa se je na drugi strani zdel dolgočasen: "Sistemski nevroznanstveni pristop k ustvarjanju AGI."
Hasabis je korakal med stopničke in zaslonom in govoril v zamiku. Nosil je bordo jopič in belo srajco s puščicami kot šolar. Zdi se, da je njegova majhna postava samo poudarjala njegovo inteligenco. Do zdaj, je pojasnil Hassabis, so znanstveniki do AGI pristopili z dveh strani. En pristop, znan kot simbolni AI, je skušal opisati in programirati vsa pravila, potrebna za sistem, ki bi lahko razmišljal kot človek. Ta pristop je bil priljubljen v osemdesetih in devetdesetih letih prejšnjega stoletja, vendar ni prinesel želenih rezultatov. Hassabis je menil, da je miselna arhitektura možganov preveč subtilna, da bi jo lahko opisali na ta način.
Drugi pristop je združil znanstvenike, ki poskušajo digitalno podvajati fizične mreže možganov. To je imelo določen smisel. Navsezadnje so možgani ležišče človeške inteligence. Toda tudi ti raziskovalci so bili na napačni poti, je dejal Hassabis. Njihova naloga je bila podobna ustvarjanju zemljevida vseh zvezd v vesolju. Bolj poglobljeno so se osredotočali na napačno raven delovanja možganov. Bilo je, kot da bi poskusili ugotoviti, kako deluje Microsoft Excel, tako da vdrejo v računalnik in se naučijo, kako medsebojno delujejo tranzistorji.
Namesto tega je Hassabis ponudil srednjo podlago: AGI naj bi črpal navdih iz širokih načinov, kako možgani obdelujejo informacije, ne iz fizičnih sistemov ali posebnih pravil, ki jih uporabljajo za posebne situacije. Z drugimi besedami, osredotočiti bi se moral na razumevanje možganske programske opreme in ne njene strojne opreme. Nove tehnike, kot je slikanje s funkcijsko magnetno resonanco (fMRI), ki so omogočale vpogled v možgane, ko delujejo, so namignile, da je takšno razumevanje možno. Nedavne študije, je dejal Hassabis, kažejo, da se možgani učijo z igranjem svojih izkušenj med spanjem, da razkrijejo splošna načela. Raziskovalci AI morajo takšen sistem posnemati.
Promocijski video:
V spodnjem desnem kotu odpiralnega diapozitiva se vije logotip v obliki okroglega modrega vrtinca. Dve besedi poleg nje sta natisnjeni spodaj: DeepMind. To je bilo podjetje prvič omenjeno javno. Hassabis je več kot eno leto porabil za povabilo na vrh o singularnosti. Predavanje je bilo njegova naslovnica. Dejansko je potreboval minuto s Petrom Thielom, milijarderjem Silicijeve doline, ki je financiral konferenco. Hassabis je želel Thielovo naložbo.
Hassabis nikoli ni govoril o tem, zakaj potrebuje Thielovo podporo. Toda Thiel je v AGI verjel še bolj kot Hassabis. Thiel je na vrhu o singularnosti leta 2009 dejal, da njegov največji strah pred prihodnostjo ni vstaja robotov. Bolj ga je skrbelo, da Singularnost ne prihaja kmalu. Svet je potreboval nove tehnologije, da bi preprečil gospodarsko nazadovanje.
DeepMind je na koncu zbral 2 milijona funtov, od tega Thiel 1,4 milijona. Ko je Google januarja 2014 podjetje kupil za 600 milijonov ameriških dolarjev, je Thiel in drugi zgodnji vlagatelji dosegel 5.000-odstotno donosnost svoje naložbe.
Za mnoge ustanovitelje bi bil to srečen konec. Lahko bi se spočili, naredili korak nazaj, preživeli čas sami z denarjem. Za Hassabis je bila Googlova pridobitev le še en korak pri njegovem prizadevanju za AGI. Večino leta 2013 je preživel s pogajanji o pogojih posla. DeepMind je moral delovati ločeno od svojega lastnika. Morala je pridobiti prednosti lastništva Googla, na primer dostop do denarnega toka in računalniške moči, ne da bi izgubila nadzor.
Hassabis je menil, da bi DeepMind lahko postal hibrid: imel bi zagonski motor, možgane največjih univerz in globoke žepe enega najbolj dragocenih svetovnih podjetij. Vsaka sestavina je bila pripravljena, da pospeši prihod AGI in odpravi vzroke za človeško trpljenje.
Hu od gospoda Hassabisa
Demis Hassabis se je rodil leta 1976 v severnem Londonu kitajski družini ciprskih in Singapurcev. Bil je najstarejši od treh bratov in sester. Njegova mati je delala v britanskem veleblagovniku John Lewis, oče pa je vodil trgovino z igračami. Sam Hassabis se je pri štirih letih ukvarjal s šahom in gledal, kako igrata oče in stric. Čez nekaj tednov je že pretepel odrasle. S svojimi 13 leti je postal drugi najboljši šahist na svetu svoje starosti. Pri osmih letih se je naučil programirati na preprostem računalniku.
Hassabis je visoko izobrazbo dobil leta 1992, dve leti pred rokom. Dobil sem se kot programer video iger pri Bullfrog Productions. Hassabis je napisal Theme Park, v katerem igralci ustvarjajo in upravljajo virtualni zabaviščni park. Igra je doživela velik uspeh in prodala 15 milijonov izvodov, ustvarila pa je celoten žanr simulacijskih iger, v katerih cilj ni bil premagati sovražnika, temveč optimizirati delovanje ogromnega zapletenega sistema, na primer podjetja ali mesta.
Demis jih je poleg ustvarjanja iger dobro igral. Kot najstnik je na tekmovanjih v družabnih igrah tekel med tlemi, medtem ko je tekmoval v dvobojih šaha, scrabbleja, pokra in backgammonov. Leta 1995 se je Hassabis med študijem računalništva na univerzi v Cambridgeu potegoval za študentski turnir. Go je starodavna strateška družabna igra, ki je bistveno težja od šaha. Mojstrstvo mora zahtevati intuicijo, pridobljeno z dolgoletnimi izkušnjami. Nihče ni vedel, ali se je Hassabis že kdaj igral Go.
Najprej je Hassabis osvojil turnir za začetnike. Nato je premagal zmagovalca izkušenih igralcev, čeprav s hendikepom. Charles Matthews, mojster Cambridgea, ki je gostil turnir, se spominja šoka, ker ga je 19-letni zakonec uničil. Matthews je vzel Hassabisa pod svoje okrilje.
Hassabisova inteligenca in ambicioznost sta se od nekdaj kazali v igrah. Igre pa so znova oživile njegovo strast do inteligence. Medtem ko je opazoval njegov razvoj šaha, se je spraševal, ali se lahko računalniki programirajo, da se učijo na enak način, kot je to storilo z nabiranjem izkušenj. Igre so ponudile učno okolje, ki ga realni svet ni ustrezal. Bili so strogi in zaprti. Ker so igre ločene od resničnega sveta, jih lahko vadite brez motenj in se jih učinkovito naučite. Igre pospešijo čas: igralci v nekaj dneh ustvarijo sindikat kriminala in se nekaj minut borijo na Sommi.
Poleti 1997 je Hassabis odpotoval na Japonsko. Maja istega leta je IBM-ov računalnik Deep Blue premagal Garryja Kasparova, svetovnega prvaka v šahu. Računalnik je prvič pretepel velemojstra. Tekma je pritegnila svetovno pozornost in sprožila zaskrbljenost zaradi vse večje moči in potencialne grožnje računalnikov. Ko je Hassabis spoznal Masahiko Futszuvera, japonskega mojstra družabnih iger, je govoril o načrtih, ki bi združili njegova zanimanja za strateške igre in umetno inteligenco: nekega dne bo razvil računalniški program, s katerim bo premagal največjega igralca go.
Hassabis je karieri pristopil metodično. "Hassabis je pri dvajsetih letih verjel, da morajo biti postavljene nekatere stvari, preden bo umetna inteligenca lahko dosegla potrebno raven," pravi Matthews. "Imel je načrt."
Leta 1998 je ustanovil lasten igralni studio Elixir. Hassabis se je osredotočil na eno izjemno ambiciozno igro, Republika: revolucija, kompleksno politično simulacijo. Nekaj let prej je Hassabis svojemu prijatelju Mustafi Suleimanu povedal, da svet potrebuje veličastne simulacije, da bi lahko modeliral njegovo kompleksno dinamiko in rešil najzapletenejše družbene probleme. Zdaj je to poskusil narediti v igri.
Težje je bilo kodirati njegove težnje, kot je bilo pričakovano. Elixir je na koncu izdal odvzeto različico igre, da bi dobili tople kritike. Druge igre niso uspele. Aprila 2005 je Hassabis ugasnil Elixir. Matthews meni, da je Hassabis podjetje ustanovil preprosto zato, da bi pridobil izkušnje vodenja. Hassabisu je zdaj manjkalo samo eno pomembno strokovno področje, preden bi se lahko lotil iskanja AGI. Moral je razumeti človeške možgane.
Leta 2005 je Hassabis doktoriral iz nevroznanosti na University College London. Objavil je zelo vplivno študijo spomina in domišljije. Ena izmed študij, ki je bila od takrat citirana več kot 1.000-krat, je pokazala, da si ljudje z amnezijo tudi težko predstavljajo nove izkušnje, kar kaže na povezavo med pomnjenjem in miselnimi podobami. Hassabis je zgradil razumevanje možganov, potrebnih za obvladovanje AGI. Velik del njegovega dela se je omejil na eno vprašanje: kako človeški možgani sprejemajo in obdržujejo koncepte in znanje?
Hassabis je uradno ustanovil DeepMind 15. novembra 2010. Izjava o poslanstvu podjetja je bila enaka kot zdaj: "rešite obveščevalne podatke" in jo nato uporabite za rešitev vsega drugega. Kot je povedal Hassabis na vrhu o singularnosti, to pomeni, da razumemo, kako možgani izvajajo naloge, v programsko opremo, ki lahko uporablja iste metode za poučevanje.
Hasabis nikakor ne trdi, da je znanost popolnoma razumela človeški um. Načrta za izvajanje AGI se je bilo nemogoče naučiti iz več sto študij nevroznanosti. Jasno pa verjame, da je povsem mogoče začeti delati na AGI na način, ki ga privlači. Možno pa je tudi, da njegovo zaupanje trpi v resničnost. Še vedno zelo malo zagotovo vemo, kako možgani dejansko delujejo. Leta 2018 je ekipa avstralskih raziskovalcev podvomila v lastne ugotovitve Hassabisa. Seveda je to le en dokument, vendar kaže, da znanost, ki stoji za DeepMindovim delom, še zdaleč ni dokazana.
Kot soustanovitelja sta se pridružila Suleiman in Shane Legg, novozelandec, obseden z AGI, ki se je Hassabis tudi srečal na univerzi. Ugled podjetja je hitro zrasel. Hasabis je cvetel. "Privlači kot magnet," pravi Ben Faulkner, bivši izvršni direktor Deep Mind-a. Veliko rekrutov prihaja iz Evrope. Morda je največji dosežek DeepMind-a aktivno zaposlovanje nadarjenih ljudi zgodaj in zadrževanje najsvetlejših in najboljših med njimi.
Ena od tehnik strojnega učenja, na katero se je podjetje osredotočilo, je izrasla iz dvojne strasti Hassabisa do iger in nevroznanosti: okrepitvenega učenja. Takšen program je zasnovan tako, da zbira informacije o okolju in se nato iz njega uči, ponavljajoč svoje izkušnje znova in znova - tako kot je Hassabis opisal možganske aktivnosti med spanjem v svojem predavanju na vrhu o singularnosti.
Učenje okrepitve se začne s čisto skrilavcem. Programu je prikazano virtualno okolje, o katerem ne ve ničesar razen pravil, na primer šahovski simulator ali video igra. Program vsebuje vsaj eno komponento, znano kot nevronsko omrežje. Sestavljen je iz plasti računskih struktur, ki sejejo skozi informacije, da prepoznajo posebne značilnosti ali strategije. Vsaka plast raziskuje okolje na svoji ravni abstrakcije. Sprva imajo ta omrežja minimalen uspeh, vendar so tudi njihove napake - in to je pomembno - v njih. Postopoma postanejo pametnejši in pametnejši, eksperimentirajo z različnimi strategijami in dobivajo nagrade, če jim to uspe. Če program premakne šahovski del in posledično izgubi igro, ne bo več naredil takšne napake. Velik del čarovnije umetne inteligence je v hitrosti, s katero ponavlja te naloge.
DeepMind je svoje delo dosegel leta 2016, ko je ekipa razvila program umetne inteligence, ki je uporabljal okrepljeno učenje skupaj z drugimi metodami igranja. Program, imenovan AlphaGo, je dvignil obrvi, potem ko je na tekmi s petimi tekmami v Seulu leta 2016 premagal svetovnega prvaka. Zmaga stroja, ki si ga je ogledalo 280 milijonov ljudi, se je zgodila deset let prej, kot so napovedovali stroji. Naslednje leto je izboljšana različica AlphaGo premagala kitajskega prvaka Go.
Tako kot Deep Blue leta 1997 je tudi AlphaGo spremenil dojemanje človeških dosežkov. Človeški prvaki, briljantni umovi planeta, niso več stali na vrhu intelektualne piramide. Skoraj 20 let po tem, ko je Hassabis naznanil svoje ambicije Fuzuvereu, jih je izpolnil. Hassabis je dejal, da ga je ta tekma spravila do solz. Matthews je bil hvaležen.
DeepBlue je zmagal zahvaljujoč siloviti sili in računski hitrosti, toda v slogu AlphaGo se je zdel umetniški, skoraj človeški. Njegova eleganca in prefinjenost, premoč računske moči kažejo, da je DeepMind pred konkurenco pri ustvarjanju programa, ki lahko zdravi bolezni in upravlja z mesti.
DeepMind in umetna inteligenca
Hassabis je vedno govoril, da bo DeepMind spremenil svet na bolje. A o AGI ni gotovosti. Če se bo kdaj pojavil, ne vemo, ali bo šlo na bolje ali na slabše, ali se bo podvrgel človeškemu nadzoru. Če je odgovor pritrdilen, kdo bo držal vajeti?
Hassabis je že od začetka poskušal braniti neodvisnost DeepMind-a. Vedno je vztrajal, da DeepMind ostane v Londonu. Ko je Google leta 2014 kupil podjetje, je vprašanje nadzora postalo bolj pereče. Hassabisu ni bilo treba prodati DeepMind Googlu. Z dovolj denarja v roki je skiciral poslovni model, v katerem bo podjetje razvijalo igre za financiranje raziskav. V Googlu so obljubili veliko denarja, vendar ni želel prenesti podjetja, ki jo je dvignil. V okviru dogovora je DeepMind ustvaril sporazum, ki bo Googlu preprečil enostransko prevzem nadzora nad intelektualno lastnino podjetja. V letu, ki je prišlo do nakupa, viri pravijo, da sta obe strani podpisali sporazum - Sporazum o etiki in varnosti. Ta sporazum so pripravili starejši odvetniki v Londonu.
Sporazum prenaša nadzor nad osnovno tehnologijo AGI DeepMind, če obstaja, na upravni odbor za etiko. Po navedbah istega vira Etični svet nikakor ni Googlova kozmetična koncesija, ampak DeepMind zagotavlja trdno pravno podporo za ohranitev nadzora nad svojo najdragocenejšo in potencialno najbolj nevarno tehnologijo. Imena komisarjev niso bila objavljena, toda drug vir, ki je blizu DeepMind-u in Googlu, je povedal, da so vsi trije ustanovitelji DeepMind-a na krovu. Podjetje samo po sebi ničesar ne razkrije.
Hassabis lahko usodo DeepMind-a določi na druge načine. Ena izmed njih je pobožnost. Nekdanji in sedanji zaposleni menijo, da je Hassabisov raziskovalni program ena največjih prednosti DeepMind-a. Njegov program, ki ponuja vznemirljivo in pomembno delo brez pritiska akademskega sveta, je pritegnil na stotine najbolj nadarjenih strokovnjakov na svetu. DeepMind ima podružnice v Parizu in Albertu. Številni zaposleni se počutijo bolj povezane s podjetjem Hassabis in njegovim poslanstvom kot s korporativnim staršem, ki si želi le dohodka. Dokler Hassabis ohranja osebno zvestobo, ima precejšnjo moč nad svojim edinim delničarjem. Bolje pustiti talentom za DeepMind na daljavo kot na koncu na Facebooku ali Appleu.
DeepMind ima še en vir vzvodov, čeprav zahteva nenehno dopolnjevanje: močan halo. Družba je v tem uspela. AlphaGo je bil odlična reklama. Od nakupa Googla je podjetje že večkrat ustvarilo čudeže, ki so pritegnili svetovno pozornost. En primer programske opreme lahko zazna vzorce skeniranja oči, ki so pokazatelji makularne degeneracije. Drug program se je naučil igrati šah iz nič, z uporabo arhitekture, podobne AlphaGo, in postal največji igralec vseh časov po samo devetih urah igranja s samim seboj. Decembra 2018 se je AlphaFold izkazal za bolj natančnega kot konkurenti pri napovedovanju tridimenzionalne strukture beljakovin s seznama spojin, ki bi lahko zdravile bolezni, kot sta Parkinsonova in Alzheimerjeva bolezen.
DeepMind je še posebej ponosen na algoritme, ki jih je razvil, da izračunajo najučinkovitejše hladilne rešitve za Googlove podatkovne centre, ki vsebujejo približno 2,5 milijona računalniških strežnikov. Leta 2016 je DeepMind dejal, da je Google znižal račun za elektriko za 40%. Toda nekateri poznavalci pravijo, da je ta pohvala pretirana. Google je uporabil algoritme za optimizacijo svojih podatkovnih centrov veliko preden je prišel DeepMind. Menijo, da DeepMind precenjuje svoje zasluge, da bi pridobil na vrednosti v očeh Abecede. Googlovo matično podjetje Alphabet plačuje DeepMind za podobne storitve. Leta 2017 je slednji izdal račun podjetju Alphabet za 54 milijonov funtov. Te številke bledijo v primerjavi z DeepMindovimi stroški. Istega leta je za osebje porabila 200 milijonov funtov. Na splošno,DeepMind je v letu 2017 izgubil 282 milijonov funtov.
To je peni za bogatega velikana. Toda druge hčerinske družbe Alphabet so pritegnile pozornost Ruth Porat, Alphabetovega osupljivega finančnega direktorja. Google Fiber, poskus izdelave ponudnika internetnih storitev, je bil zaustavljen, potem ko je postalo jasno, da bo naložba vplačala desetletja. Raziskovalci AI se tudi sprašujejo, ali se bo DeepMind zajebal.
Postopno razkritje napredka DeepMind v AI je del strategije, ki postopoma gradi ugled podjetja. To je še posebej dragoceno v času, ko Google obtožuje kršenja zasebnosti uporabnikov in širjenja lažnih novic. Tudi DeepMind ima srečo, da ima podpornika na najvišji ravni: Larry Page, eden izmed dveh ustanoviteljev Googla, zdaj izvršni direktor Alphabet. Paige je zelo blizu Hassabisu. Page-ov oče Karl je v šestdesetih letih prejšnjega stoletja študiral nevronske mreže. Na začetku svoje kariere je Page dejal, da je Google ustvaril samo zato, da je ustanovil podjetje AI.
DeepMind-ov natančni nadzor tiska ni v skladu z akademskim duhom, ki prežema podjetje. Nekateri učenjaki se pritožujejo, da jim je težko objaviti svoje delo: premagati morajo sloge notranje odobritve, preden lahko sploh pošljejo prispevek na konferenco ali časopis. DeepMind meni, da je treba nadaljevati previdno, da ne bi prestrašili javnosti možnosti AGI. Toda preostre obtožbe lahko porušijo akademsko vzdušje in oslabijo zvestobo zaposlenih.
Pet let po Googlovi pridobitvi postane vprašanje, kdo nadzira DeepMind, kritično. Ustanovitelji in zgodnji zaposleni v podjetju se približujejo pragu, ko se lahko odpravijo s finančnim nadomestilom, ki so ga prejeli od nakupa podjetja (delnice Hassabisa so verjetno vredne okoli 100 milijonov funtov). Toda vir, ki je blizu podjetja, nakazuje, da Alphabet že več let potiska plačila ustanoviteljem. Glede na njegovo neusmiljeno osredotočenost Hassabis verjetno ne bo skočil z ladje. Denar ga zanima le, če mu pomaga pri doseganju cilja vse življenje. Toda nekateri moji kolegi so odšli. Trije inženirji AI so podjetje zapustili od začetka leta 2019. Ben Laurie, eden najuglednejših varnostnih inženirjev na svetu, je spet pri Googlu. To zagotovo ni velikoToda DeepMind ponuja tako neverjetno misijo in dostojno plačilo, da ga nihče ne bi smel oditi.
Google doslej v resnici ni motil DeepMind-a. Toda nedavni razvoj je sprožil zaskrbljenost glede tega, kako dolgo bo podjetje lahko ohranilo neodvisnost.
DeepMind, medicina in umetna inteligenca
DeepMind je vedno načrtoval uporabo AI za izboljšanje zdravstvenega varstva. Februarja 2016 je bila ustanovljena nova enota DeepMind Health, ki jo je vodil Mustafa Suleiman, eden izmed soustanoviteljev podjetja. Suleiman, čigar mati je bila medicinska sestra, je upal, da bo ustvaril program z imenom Potoki, ki bi zdravnike opozoril, ko se bo bolnikovo zdravje poslabšalo. DeepMind bi bil nagrajen na podlagi meritev. Ker je to delo zahtevalo dostop do zaupnih podatkov o pacientih, je Suleiman ustanovil neodvisno komisijo za pregled (IRP), ki je zaposlila dobre angleške strokovnjake za zdravje in tehnologijo. DeepMind je bil dovolj pameten, da je bil previden. Nato je britanski informacijski pooblaščenec odkril, da je eden od bolnišničnih partnerjev kršil zakon pri obdelavi podatkov o pacientih. Vendar je Suleiman do konca leta 2017 podpisal sporazume s štirimi večjimi bolnišnicami.
8. novembra 2018 je Google objavil ustanovitev lastnega zdravstvenega oddelka - Google Health. Pet dni kasneje je bilo objavljeno, da naj bi se DeepMind Health pridružil prizadevanjem matičnega podjetja. DeepMind ni bil opozorjen. Glede na informacije, pridobljene iz prošenj FOI, je o spremembi le tri dni vnaprej obvestila partnerske bolnišnice. DeepMind je zavrnil razkritje, ko so se začele razprave o združitvi, vendar je dejal, da je kratek čas med obvestilom in javno objavo v interesu preglednosti. Leta 2016 je Suleiman zapisal, da "podatki o bolnikih nikoli ne bodo povezani z Googlovimi računi, izdelki ali storitvami". Zdelo se mu je, da je bila njegova obljuba prekršena.
Googlova aneksija je razjezila uslužbence DeepMind Health. Po besedah ljudi, ki so blizu zdravstvenemu timu, načrtuje, da bo podjetje zapustilo podjetje po končanem postopku prevzema.
Ta epizoda kaže, da so obrobni deli dela DeepMind izpostavljeni Googlu. DeepMind je izjavil, da "smo se vsi strinjali, da je smiselno združiti ta prizadevanja v enem sodelovanju s povečanimi sredstvi." Pri tem se postavlja vprašanje, ali bo Google uporabil isto logiko pri delu DeepMind na AGI.
DeepMind je v velikem obsegu zelo napredoval. Ustvarila je že programsko opremo, s katero se lahko naučimo izvajati naloge na nadčloveški ravni. Hassabis se pogosto sklicuje na Breakout, video igro za konzolo Atari. Igralec nadzoruje palico, ki se lahko premika vodoravno in z njeno pomočjo odbija žogice ter jih usmeri v bloke zgoraj, ki se ob trku uničijo. Igralec zmaga, ko so uničeni vsi bloki. Izgubi, če žoga pade mimo ploščadi. Brez človeških navodil se DeepMind ni le naučil igrati igro, ampak tudi metati žoge v prostor za bloke, da bi izkoristil odskok. To kaže na moč okrepljenega učenja in nadnaravne moči računalniških programov DeepMind.
Demonstracija je vsekakor impresivna. Toda Hassabis o nečem molči. Če se virtualna platforma dvigne še nekoliko višje, bo program naredil napako. Spretnost, ki jo je DeepMind pridobil, je tako omejena, da se ne more odzvati niti na drobne spremembe v okolju, ki bi jih človek zlahka premagal. Toda na svetu obstaja veliko tankočutnosti. Za diagnostično inteligenco si dva telesna organa nista podobna. Za mehansko inteligenco dva podobna motorja pri uglaševanju ne bosta nikoli enaka. Zato je izpuščanje programov v naravo težko.
Drugi, o katerem DeepMind redko govori, je, da je uspeh v virtualnih okoljih odvisen od funkcije nagrajevanja: signala, ki omogoča, da programska oprema meri svoj napredek. Program se nauči, da odbijanje od zadnje stene poveča rezultat. Veliko dela DeepMind-a z AlphaGo je ustvarilo funkcijo nagrajevanja, ki je združljiva s tako zapleteno igro. Na žalost resnični svet ne ponuja preprostih nagrad. Napredek se redko meri v posameznih točkah. Človeški možgani prejmejo signal o uspešnosti naloge prav v procesu izvajanja in ne po njem.
DeepMind je našel način, kako to premagati z uporabo ogromnih količin procesne moči. AlphaGo že tisočletja človeškega časa igra igre, da se nečesa nauči. Mnogi filozofi AI menijo, da je ta rešitev nesprejemljiva za naloge, ki prinašajo šibkejše nagrade. DeepMind priznava takšne nejasnosti. Pred kratkim se je lotila programa StarCraft 2, računalniške strateške igre. Odločitve, sprejete na začetku igre, imajo posledice, ki se pojavijo pozneje, kar je precej značilno za mučne in prepozne povratne informacije o resničnih težavah. Januarja je programska oprema DeepMind premagala nekaj najboljših igralcev na svetu in je bila kljub strogim omejitvam precej impresivna. Programi so začeli raziskovati tudi funkcije nagrajevanja z upoštevanjem povratnih informacij ljudi. Toda vključitev človeških navodil v zanko ustvarja nevarnost izgube obsega in hitrosti.
Tako sedanji kot nekdanji raziskovalci pri DeepMind in Googlu so pod pogojem anonimnosti izrazili dvom, da bo DeepMind s takšnimi metodami lahko dosegel AGI. Želja po doseganju visokih zmogljivosti v simuliranih okoljih težko reši problem nagradne funkcije. Pa vendar je ta pristop v središču DeepMind-a. V podjetju obstaja notranja konkurenca, kjer se programi tekmovalnih skupin potegujejo za premoč.
Hassabis je življenje vedno videl kot igro. Večji del njegove kariere je bil namenjen izdelovanju, večino svojega prostega časa je preživel z igranjem. Pri DeepMind jih uporablja za razvoj močne umetne inteligence. Tako kot njegova programska oprema se tudi Hassabis uči iz lastnih izkušenj. Prizadevanje za AGI lahko na koncu vodi v slepo ulico, izmišljujejo uporabno medicinsko tehnologijo in obvladajo najboljše igralce v svoji sposobnosti. Lahko pa AGI ustvari tudi neposredno pod Googlovim nosom, vendar zunaj njegovega nadzora. In če mu to uspe, bo Demis Hassabis dobil najtežjo igro od vseh.
Ilya Khel