Politiki in kapitalisti imajo v petek popoldne tradicijo, da med njimi skrivajo veliko novic, da bi prikrili slabe novice. Tako je bilo nekoliko čudno, da sta Elon Musk, ustanovitelj Tesle, proizvajalca električnih vozil, in Sam Altman, predsednik priznanega tehnološkega inkubatorja Y Combinator, ob koncu tedenske AI konference v Montrealu decembra lani razkrila svoje novo podjetje z AI tematiko.
Obstajal je razlog za uvedbo OpenAI ob tako pozni uri. Pa ne zato, ker je nihče ni gledal. Ker so vsi gledali. Ko so nekatera najmočnejša podjetja v Silicijevi dolini zaznala, da piha veter, so začeli ponujati ogromne vsote denarja na novo dvignjenemu talentu OpenAI AI, da bi te genije ohranili doma. V zadnjem trenutku so predlogi - nekateri, ki so bili podani na sami konferenci - tako postali tako veliki, da sta Musk in Altman morala odložiti napoved novega zagona. "Zneski so dosegli rob norosti," pravi Wojciech Zaremba, znanstvenik, ki se je pridružil OpenAI po pripravništvu pri Googlu in Facebooku in bil med tistimi, ki so ob 23. uri prejeli večje ponudbe.
Koliko dolarjev je meja norosti? Pred dvema letoma, ko se je trg najnovejših tehnologij strojnega učenja začel segrevati, je Microsoftov podpredsednik raziskav Peter Lee dejal, da so stroški vrhunskih raziskovalcev AI presegli stroške vrhunskega navijača v Nacionalni nogometni ligi - in to v normalnih okoliščinah, ne takrat, ko največji podjetniki Silicijeva dolina skuša ukrotiti najboljši talent. Zaremba pravi, da so mu, ko se je OpenAI zbral, ponudili dva do trikrat večjo tržno vrednost.
OpenAI ni ustrezal tem predlogom. Toda ponudil je nekaj drugačnega: zmožnost raziskovanja se je osredotočila izključno na prihodnost, namesto na izdelke in četrtletni dobiček, in na koncu večino - če ne celo - raziskovanje razdeli med tiste, ki si tako želijo. Tako je: Musk, Altman in družba so si zadali, da bi podarili tisto, kar bi lahko bila najbolj transformativna tehnologija 21. stoletja, in jo dali brezplačno.
Zaremba pravi, da ga predlogi na robu norosti dejansko odvrnejo - kljub velikemu spoštovanju podjetij, kot sta Google in Facebook. Menil je, da se denar namenja za preprečitev ustvarjanja OpenAI, kar je še okrepilo njegovo zavezanost velikodušnemu zagonu. "Spoznal sem," pravi Zaremba, "da je OpenAI zame najboljše mesto."
Ali čutite ironijo v središču te zgodbe? Medtem ko največje tehnološke družbe na svetu skušajo obdržati svoje raziskovalce tako močno, kot se ekipe NFL trudijo obdržati svoje zvezdniške povratne zadetke, sami raziskovalci želijo deliti svoje vpoglede. V prefinjenem svetu raziskav AI najsvetlejših mož ne vodi le naslednji proizvodni cikel ali dobiček ali pa sploh niso obsedeni z njimi. Želijo narediti AI boljši in nemogoče je izboljšati AI, ko zadnja dogajanja zadržujete zase.
OpenAI je nedavno izdal prvo serijo programske opreme AI, orodja za ustvarjanje sistemov umetne inteligence, ki temelji na tehnologiji, imenovani okrepljeno učenje, ki je ena ključnih tehnologij, ki so privedle do oblikovanja AlphaGo, Googlovega AI, ki je svet presenetil s svojimi zmogljivostmi. pojdite na igre. S tem naborom orodij lahko sestavite sisteme, ki bodo odprli novo generacijo robotov, igrali igre Atari in ja, premagali svetovne prvake na Go.
Promocijski video:
Toda igrače so šele začetek. OpenAI je milijarda dolarjev, ki naj bi AI potisnila čim bolj. V načinu, kako se je podjetje zbralo in kakšni so njegovi načrti, lahko vidite naslednji nov val inovacij. Še ne vemo, ali bo OpenAI glavni dejavnik teh sprememb. Toda sile, ki stojijo za ustvarjanjem tega precej nenavadnega zagona, kažejo, da naslednja generacija AI ne bo spremenila samo tehnologije, temveč tudi način njenega delovanja.
Umetna inteligenca je povsod
Silicijeva dolina ima strast do pretiravanja. Drzne trditvene izjave je treba vedno izpolnjevati z zrnom soli. Toda na področju umetne inteligence resnično prihaja do sprememb. V podjetjih, kot sta Google in Facebook, tehnologije globokega učenja že pomagajo internetnim storitvam pri prepoznavanju obrazov na fotografijah, prepoznavanju glasovnih ukazov na pametnih telefonih in odzivanju na internetna iskanja. In ta ista tehnologija bi lahko v prihodnosti rešila številne druge težave. Stroji lahko pomagajo, da se naučijo razumeti naravni jezik - ki smo ga ljudje navajeni govoriti in pisati. Pomaga lahko razviti novo pasmo robotov, avtomatikom omogočajo ne samo opravljanje svojih nalog, ampak tudi učenje letenja. Nekateri verjamejo, da bo to na koncu dalo strojem nekaj podobnega zdravemu razumu - sposobnost, da resnično mislijo kot človek.
In ob takšnih obljubah se rodi globoka tesnoba. Musk in Altman sta zaskrbljena, če ljudje lahko ustvarijo AI, ki delajo velike stvari, lahko ustvarijo II, ki delajo grozne stvari. V svojih strahovih niso sami. In čeprav se morda zdi kontratuktivno, Musk in Altman tudi verjameta, da je najboljši način za boj proti zlonamernemu AI ne omejevanje dostopa do umetne inteligence, temveč razširitev le-te. Prav ta težnja vodi v ekipo mladih in inteligentnih idealistov.
OpenAI se je lani poleti prikazal v zasebni sobi hotela Rosewood v Silicijevi dolini, vrhunskem mestnem hotelu, ki dobesedno leži v središču tveganega kapitalističnega sveta. Elon Musk je imel kosilo z Ilyjo Sutskeverjem, ki je bil takrat pri Googlu Brain, podjetju, ki razvija globoke nevronske mreže - sisteme umetne inteligence, ki jih je mogoče usposobiti za opravljanje nalog z analizo ogromnih količin digitalnih podatkov, vključno s prepoznavanjem fotografij in pisanjem e-poštnih sporočil ter učenjem dopisovanja. Suckever je bil eden vodilnih razvijalcev projekta.
Ilya Sutskever
Sam Altman, čigar Y Combinator je pomagal oblikovati podjetja, kot so Airbnb, Dropbox in Coinbase, je posredoval na sestanku in združil več raziskovalcev AI in mladega, vendar veteran gradbenika podjetja Grega Brockmana, prej glavnega tehnološkega direktorja v start-up Stripeu, drugo podjetje Y Kombinator. Bila je eklektična skupina. Vsi pa so imeli cilj: ustvariti nov tip laboratorija AI, ki bi lahko deloval zunaj nadzora ne le Googla, ampak tudi vseh drugih. "Najboljše, kar bi si lahko predstavljal kot izziv," pravi Brockman, "je usmeriti človeštvo k ustvarjanju resničnega AI po varni poti."
Musk je bil tam zaradi dolgega prijateljstva z Altmanom - in ker je AI kritičen do prihodnosti njegovih različnih podvigov in do prihodnosti kot celote. Tesla potrebuje AI, če želi sestaviti samovozeče avtomobile. SpaceX, še eno od Muskovih podjetij, potrebuje AI, da bi ljudi popeljal v vesolje in tam ohranil varne in zdrave. Toda Musk je tudi eden prvih (in najglasnejših), ki je opozoril, da bi človeštvo nekega dne lahko izgubilo nadzor nad sistemi, ki so dovolj močni, da se lahko sami naučijo.
Prišlo je do težave: veliko ljudi, ki so dovolj usposobljeni za reševanje vseh teh težav, ki so že delali pri Googlu (pa tudi Microsoft, Facebook, Baidu in Twitter). In nihče na tej večerji ni bil povsem prepričan, da bi te raziskovalce lahko zvabili v nov zagon, četudi sta Musk in Altman za tem. In vsaj en ključni igralec je bil pripravljen zapustiti ladjo. "Razumel sem tveganja," pravi Suckever, "vendar sem tudi vedel, da bi bilo zanimivo poskusiti."
Prekinite krog
Spodbuden s pogovori z Muskom, Altmanom in drugimi iz Rosewooda, se je Brockman kmalu odločil za izgradnjo laboratorija, ki so ga imeli vsi v mislih. Z močno zavzetostjo za projekt je pripeljal Yoshua Bengio, znanstvenika z univerze v Montrealu in enega od ustanoviteljev o gibanju globokega učenja. Dva nova pionirja v industriji - Jeff Hinton in Jan Lecun, sicer delata pri Googlu oziroma Facebooku, vendar je Bengio težil k življenju v akademskem svetu, nekje zunaj dosega industrijskih trnov. Narisal je seznam najboljših raziskovalcev na tem področju in v naslednjih nekaj tednih je Brockman vzpostavil stik z vsemi, ki jih je mogel, vključno z več drugimi.
Mnogi od teh raziskovalcev so idejo pozdravili, vendar so bili pozorni na možnost takega preskoka. V poskusu prekinitve kroga je Brockman izbral deset raziskovalcev, ki jih želi videti največ, in jih povabil, da soboto preživijo ob vinu, prigrizkih in pogovoru v vinski kleti v dolini Napa. Za Brockmana je bil celo potovanje v Napo katalizator projekta. "To je premajhen način združevanja ljudi, še posebej v trenutkih, ko nimate kam hiteti, da bi dosegli svoj cilj," pravi. "Tja je treba iti, pa tudi govoriti moraš." In ko so prišli do vina, je to vzdušje ostalo. Kot pravi Suckever, je bilo "vino drugotnega pomena za pogovor".
Greg Brockman
Do konca dneva je Brockman povabil vseh deset raziskovalcev, da se pridružijo laboratoriju, in jim dal tri tedne za razmišljanje. Ob koncu mandata jih je bilo devet. In v njem so ostali, kljub velikim ponudbam velikanov iz Silicijeve doline. "Dobil sem zelo privlačno ponudbo za bivanje, zato odločitev ni bila lahka," pravi Suckever iz Googla, njegov nekdanji delodajalec. "Končno sem se odločil, da grem na OpenAI, deloma zaradi zelo močne skupine ljudi in seveda predvsem zaradi njihovega poslanstva."
Globinsko učenje se je začelo v akademskih krogih. Šele pred kratkim so se podjetja, kot so Google, Microsoft in Facebook, odločila, da se bodo lotila tega področja, saj so zaradi napredka računalniške moči te globoke nevronske mreže postale resničnost, ne le teoretska možnost. Ljudje, kot sta Hinton in LeCune, so zaradi velikih virov v teh podjetjih zapustili akademijo pri Googlu in Facebooku. Toda ostal tesno povezan v sodelovanju z drugimi teoretiki na tem področju. Kljub temu, kot pojasnjuje LeCun, je za poglobljeno učenje potrebno prost pretok idej. "Ko raziskujete na skrivaj," pravi, "padete nazaj."
Zato imajo velika podjetja na razpolago veliko raziskav AI. To je glavni adut, zlasti za Google, ki je tehnologijo svojega spletnega imperija že dolgo skrival v skrivnosti. Nedolgo nazaj je Google odprl izvorno kodo za programsko opremo, ki poganja nevronske mreže. Toda v tej dirki za prihodnost je na tej dirki še veliko ključnega pomena. Brockman, Altman in Musk si prizadevajo, da bi pojem odprtosti še bolj spodbudili s tem, da ne želijo, da bi ena ali dve veliki korporaciji nadzirali prihodnost umetne inteligence.
Meje odprtosti
Vse skupaj se sliši super. Toda za ves idealizem OpenAI se bodo raziskovalci morda znašli v enakih pogojih, ki so jih prisilili, da delajo na starih delovnih mestih. Odprtost ima svoje meje. In dolgoročna vizija AI ni edino zanimanje za to igro. OpenAI ne deluje dobrodelno. Muskova podjetja bodo imela veliko koristi od zagonskih del, prav tako tudi Altmanova Y Combinator. "Zagotovo obstajajo nekatere konkurenčne točke," pravi Lecun. - To je neprofitna organizacija, vendar ima tesne odnose z Y Combinatorjem. In ljudje bodo plačani za delo v tej panogi."
Brockmanova laboratorija ne plačuje istih astronomskih plač, kot sta jih Google in Facebook zagotavljala raziskovalcem AI. Vendar tudi pravi, da jih laboratorij "želi dobro plačati" in ponuja odškodnino v obliki delniških opcij, najprej pri Y Combinatorju, kasneje pa tudi pri SpaceX-u (ki je za razliko od Tesle zasebno podjetje).
Kljub temu Brockman vztraja, da OpenAI ne predvideva posebnega obravnavanja povezanih podjetij. OpenAI je raziskovalna pobuda in ne svetovalno podjetje. Pa vendar ima idealizem OpenAI svoje omejitve. Podjetje morda ne bo odprlo kode za vse, kar proizvede, čeprav je končni cilj še vedno razdeliti večino, naj bo to znanstveni prispevek ali internetne storitve. »Odpiranje ni nujno najboljša možnost. Idejo morate negovati, videti, kam vodi, in nato objaviti, pravi Brockman. - Izdelovali bomo veliko odprtokodne kode. Vendar bomo imeli tudi veliko stvari, ki še niso pripravljene za izdajo."
Suzkever še dodaja, da bi OpenAI lahko šel daleč do patentiranja nekaterih svojih del. "Kmalu ne bomo ničesar patentirali," pravi Brockman. "Toda pripravljeni smo dolgoročno spremeniti taktiko, če mislimo, da bo za svet boljše." Na primer, OpenAI lahko naredi proaktiven patent, da drugim odvrne od pridobivanja patentov.
Nekateri vidijo patente kot motiv za dobiček. Toda v tem je celotna poanta patentov.
Problem superinteligencije
Ko sta Musk in Altman predstavila OpenAI, sta projekt opisala tudi kot način za nevtralizacijo grožnje zlonamerne superinteligence. Seveda bi lahko takšna nadinteligenca nastala z delom OpenAI, vendar vztrajajo, da se bo kakršna koli grožnja zmanjšala tako, da bo tehnologija na voljo vsem. "Menimo, da je veliko bolj verjetno, da množica AI lahko ustavi naključne slabe igralce," pravi Altman.
Toda vsi na tem področju ne verjamejo v takšen izid. Nick Bostrom, oksfordski filozof, ki je, tako kot Musk, opozoril na nevarnosti AI, poudarja, da jih lahko, če delite svoje raziskave brez omejitev, loši igralci, preden bodo vsi prepričani, da so varni. "Če imaš gumb, ki naredi sveto sranje," pravi Bostrom, "verjetno nočeš vsem omogočiti dostopa do njega." Če se po drugi strani OpenAI odloči, da bo zadrževal raziskovanje, da bi negativcem preprečil dostop do njega, se Bostrom vpraša: kako se bo to razlikovalo od Googla ali Facebooka?
Pravi, da, nepridobitni status OpenAI lahko stvari spremeni ali ne spremeni. Prava moč projekta, pravi, je, da ga lahko preverita Google in Facebook. "Zmanjšala bo možnost, da bo nadpovezovalna enota monopolizirana. Odstranil bo lahko enega od možnih razlogov, da bodo imeli nekateri posamezniki ali skupine dostop do boljšega AI kot vsi drugi."
V nedavnem delu filozof razlaga, da je glavni učinek pobude, kot je OpenAI, pobuda za svobodno delitev tega, kar se naredi, vsaj v kratkem času pospešiti napredek umetne inteligence. In dolgoročno lahko pospeši napredek, če se ohrani višja stopnja preglednosti, kot bi bila komercialno optimalna.
"Mogoče bi lahko človekoljubno motiviran vlagatelj v raziskave in razvoj resno pospešil napredek z izvajanjem odprtih znanstvenih politik," pravi.
Kako Xerox PARC
V začetku januarja se je v njegovem stanovanju v San Franciscu zbralo devet Brockmanovih raziskovalcev. Projekt je bil tako nov, da sploh niso imeli deske. (Zamislite.) Nekaj dni sta jih kupila in se zaposlila.
Brockman pravi, da bo OpenAI začel z raziskovanjem učnih načinov okrepitve, strojni način učenja težav, tako da jih bo ponavljal znova in znova in sledil, katere metode prinašajo najboljše rezultate. Drug večji izziv je tako imenovano "nenadzorovano učenje" - ustvarjanje strojev, ki se lahko brez človekove pomoči resnično samostojno učijo. Danes je globoko učenje odvisno od skrbno označenih podatkov. Če želite nevronsko mrežo naučiti prepoznavati fotografije mačk, jo morate hraniti z določenim številom primerov - in te primere je treba označiti kot fotografije z mačkami. Takšno usposabljanje se izvaja s pomočjo ljudi. Toda tako kot mnogi drugi znanstveniki tudi OpenAI načrtuje izgradnjo nevronskih mrež, ki se lahko učijo brez skrbnega izbora podatkov.
"Če imate res dobro metodo poučevanja brez učitelja, se lahko stroji učijo iz vsega znanja na internetu - kot človek, samo pogledate okoli - ali z branjem knjig," pravi Brockman.
OpenAI vidi kot sodobno utelešenje Xerox PARC, laboratorija za tehnološke raziskave, ki je obstajal v sedemdesetih letih prejšnjega stoletja. Tako kot je odprto in brezplačno raziskovanje PARC-a povzročilo vse, od grafičnih uporabniških vmesnikov in laserskega tiska do objektno usmerjenega programiranja, se Brockman in njegova ekipa želijo potopiti v tisto, kar je bilo nekoč znanstvena fantastika. PARC je bil v lasti podjetja Xerox, vendar ga je hranil v rokah številnih drugih podjetij, vključno s podjetjem Apple, saj so ljudje, kot je Steve Jobs, pozdravili njegovo raziskovanje. Brockman želi, da vsi pozdravijo raziskave OpenAI.
V upanju, da bodo spodbudili to dinamiko, sta Brockman in družba zaposlila več drugih pomembnih raziskovalcev, vključno z Ianom Goodfellowom, drugim višjim raziskovalcem iz Google Brain ekipe. Brockman pravi, da je PARC v bistvu dobil kup pametnih ljudi in se je odločil videti, kaj se je zgodilo. "Potrebujete skupno vizijo brez centralnega nadzora."
Pomanjkanje nadzora je bistvenega pomena za ideal. Če v skupni cilj pripeljete dovolj ljudi, bo končni rezultat zmagal nad tem, kar ste na skrivaj skuhali. Toda če AI postane tako močan, kot je obljubljeno, se bo enačba spremenila. Potrebujemo zagotovilo, da se bo novonastali AI držal istih egalitarnih idealov, ki so vodili k njegovemu nastanku. Musk, Altman in Brockman verjamejo v ljudi, v množico. In če se izkažejo za prav, nekega dne ta množica ne bo povsem človeška.
ILYA KHEL