Dva milijarderja, ki sta svoje bogastvo ustvarila na spletu, lastnik Tesle in Space X Elon Musk in ustanovitelj Facebooka Mark Zuckerberg, sta se zapletla v odsotnosti zaradi nevarnosti umetne inteligence.
Oba podjetnika sta prepričana, da bo oblikovanje popolne umetne inteligence (AI) vprašanje v bližnji prihodnosti. Toda Musk verjame, da je čas, da človeštvo razmisli o urejanju dogajanja na tem področju, Zuckerberg pa je prepričan, da bo umetna inteligenca znatno izboljšala življenje ljudi.
Sredi julija se je Elon Musk pogovarjal z guvernerji ameriških zveznih držav in pozval oblasti, naj razmislijo o uvedbi zakonodajnih omejitev za razvoj na področju AI.
Zuckerberg je na klepet z uporabniki Facebooka odgovoril na vprašanje o nevarnosti AI. Odkrito so ga vprašali, če misli, da so Muskovi strahovi veljavni. Ustvarjalec Facebooka je dejal, da ne razume, kako lahko Musk resno poziva k upočasnitvi napredka.
Odgovoril je s tvitanjem: "Z Markom sem govoril o tem. Do tega vprašanja ima omejeno razumevanje ":
Pričujoči čas v celoti objavlja govore obeh milijarderjev.
"Dokler ne bomo videli robotov, ki se sprehajajo po ulicah in ubijajo ljudi, ne bomo vedeli, kako odreagirati." Strahovi Elona Muska
Promocijski video:
Imam dostop do najnovejših v AI. In mislim, da bi se ljudje res morali ukvarjati s tem vprašanjem. Vem, kako se sliši, toda dokler ljudje ne bodo videli robotov, ki se sprehajajo po ulicah in ubijajo ljudi, ne bodo vedeli, kako odreagirati.
Zdi se mi nerealno. Mislim, da se moramo resnično skrbeti za AI. In mislim, da je to redek primer, ko moramo v svojih zakonodajnih omejitvah biti pred krivino in ne sprejemati odločitev pozneje, ko bo že prepozno.
Običajno omejitve delujejo tako: sprva se zgodi veliko slabega, družba protestira, po mnogih letih pa obstajajo regulativni organi za to panogo. Podjetja, ki ne marajo zunanjega nadzora, se upirajo, in to traja zelo dolgo. V preteklosti je to že vodilo do slabih posledic, ni pa predstavljalo temeljne grožnje za obstoj človeštva.
AI je temeljno tveganje za človeški obstoj. In to je tveganje, ki ga nikoli niso imele niti prometne nesreče, niti letalske nesreče, niti problematične droge niti slaba hrana. Niso bili grožnja. Mogoče so bili za določene ljudi, vendar niso predstavljali tveganja za vso družbo.
AI je temeljna eksistencialna grožnja civilizaciji in mislim, da tega ljudje ne vemo v celoti. Da, biti omejen ni zabavno. Toda v avtomobilski industriji nas nadzira Ministrstvo za promet in mnogi drugi. In vsaka država ima regulativne organe. V vesoljski industriji nas nadzoruje Zvezna uprava za letalstvo. Če pa navadnega človeka vprašate: "Hej, želite se znebiti upravljanja civilnega letalstva in samo upate, da proizvajalci ne bodo prihranili na letalu, ker je dobiček v tej četrtini upadel," bo oseba rekla: "Seveda ne." Sliši se tako.
Mislim, da bi celo zelo svobodomiselni ljudje še vedno govorili: "Pazimo na proizvajalce letal, poskrbeti moramo, da bodo naredili dobro letalo." Lepi avtomobili, take stvari. Torej imajo regulatorji svojo vlogo. Seveda sem proti strogemu nadzoru. Ampak mislim, da bi bilo bolje, da pohitimo z AI.
Seveda bo ta [izum AI] privedel do izgube delovnih mest, saj roboti zmorejo vse bolje kot mi. Se pravi, boljše od vseh nas. Da. Ne vem, kaj naj storim glede tega. To je zame najhujša težava. Da, pravzaprav sem prepričan, da bomo potrebovali državni nadzor, saj bomo tako lahko zagotovili javno varnost.
Podjetjem se mudi, za izdelavo AI morajo imeti čas, sicer bodo postali nekonkurenčni. Če se vaš tekmovalec mudi, da bi AI, in ga niste, vas bo uničil. In podjetja pravijo: "Nočemo umreti. Zdi se, da moramo ustvariti tudi AI."
Tukaj naj bi prišli kontrolniki: "Fantje, vsi morate upočasniti in se prepričati, da je varno." Če so recenzentje prepričani, da je varno, potem lahko nadaljujete z delom. V nasprotnem primeru upočasnite. Toda revizorji morajo to storiti za vse, ki to storijo, sicer bodo delničarji rekli: "Hej, zakaj ne razvijete AI hitreje kot vaši konkurenti? Bilo bi potrebno!"
Verjamem, da je to največje tveganje, ki ga jemljemo kot civilizacija. Mislim, da je vloga države skrbeti za družbo in biti pozoren na to, kar ji grozi. Od tod tudi omejitve. Najprej se morate o tem čim več naučiti, da boste razumeli naravo problema, opazovali napredek in neverjetne dosežke na področju AI.
Lani v igri, ki je bila dovolj težka za zmago in v kateri so ljudje mislili, da računalnik ne bo nikoli premagal najboljšega človeškega igralca, ali da se bo to zgodilo čez 20 let, lani AlphaGo, ki ga je ustvaril DeepMind, podjetje, ki ga je kupil Google, je premagalo najboljšega igralca go na svetu. Zdaj lahko igra hkrati s 150 igralci in jih vse premaga.
To je impresivna stopnja napredka in pojavljala se bo vedno pogosteje. Robotika, na primer. Obstajajo roboti, ki se v urah naučijo hoditi iz nič. Hitreje kot katera koli vrsta. Toda najbolj nevarno - in to je najtežje razumeti - ker ni nekaj fizičnega, je inteligenca.
Videti bi bilo dobro, kaj lahko močna [umetna] inteligenca počne na spletu? No, na primer, začnite vojno. Na primer z ustvarjanjem lažnih novic, ponarejenimi sporočili za javnost in poštnimi naslovi ter preprosto manipulacijo z informacijami. Pero je močnejše od meča.
Kot primer - želim poudariti, mislim, da se to res ni zgodilo, to pravim čisto hipotetično - se spomnite tistega malezijskega letala, ki je bilo sestreljeno čez mejo med Rusijo in Ukrajino? To je močno povečalo trenje med Rusijo in EU.
Predstavljajte si, če bi imeli umetno inteligenco in njen cilj je bil povečati vrednost portfelja delnic, bi bil eden od načinov, da kupite obrambne zaloge, kratke zaloge potrošnikov in začnete vojno.
Kako je to zmogel? Hack Malaysia Airlines, strežniki letalskih poti, načrtujejo poti čez vojno območje in nato pošljejo anonimno sporočilo, da "sovražno letalo leti nad vami."
"Vse tehnologije je mogoče uporabiti za škodo in dobro." Optimizem Marka Zuckerberga
Glede tega imam precej močna prepričanja. Sem zelo optimističen. Na splošno sem optimistična oseba. Mislim, da lahko ustvarimo stvari, zaradi katerih je svet boljši, in glede AI sem še posebej optimističen. Mislim, da preprosto ne razumem ljudi, ki so vedno skeptični in nenehno ustrahujejo te scenarije bližajočega se konca sveta. Mislim, da je to res zelo slabo in neodgovorno, saj bo AI v naslednjih petih do desetih letih lahko izboljšal in izboljšal kakovost našega življenja.
Če vas skrbi za varnost in zdravje ljudi, potem AI že pomaga pri boljšem diagnosticiranju bolezni in izbiri zdravil za ljudi, odvisno od tega, za kaj so bolni in kako jih je mogoče bolje ozdraviti. Mnogi ljudje bodo deležni boljše zdravstvene oskrbe kot kdaj koli prej.
Ko gre za samovozeče avtomobile, bodo varnejši od avtomobilov, ki jih vozijo ljudje. Samo vprašanje časa. Avtomobilske nesreče ostajajo eden glavnih vzrokov smrti. In če bi jih lahko odpravili s pomočjo AI, bi to močno izboljšalo življenje ljudi.
Ko slišim sklep, "Oh, veste, AI bo v prihodnosti škodoval ljudem," Mislim, da se res lahko vsa tehnologija uporablja za škodo in dobro. In ko morate nekaj ustvariti, morate biti previdni, biti morate previdni in razmišljati, kako bo to uporabljeno.
Ko pa ljudje vztrajajo pri upočasnitvi AI procesa, se mi zdi zelo sporno. Tega resnično težko razumem, kajti če ste proti AI, potem ste proti varnejšim strojem, ki ne bodo padli v nesreče, proti možnosti boljšega diagnosticiranja bolezni. In preprosto ne razumem, kako nekateri to zmorejo, ne da bi se zvijali. Zato sem na splošno veliko bolj optimističen glede tega [ustvarjanja AI], kot morda mnogi ljudje.
