Avtorica je zaskrbljena zaradi vse večje vloge robotov v vojni. Od leta 1991, od zalivske vojne, pomagajo generali. In zdaj je bil ustvarjen "morilski robot" - stroj, ki se samostojno odloča za uničenje sovražnikov, če je to v skladu s splošno politiko "nadzornega centra".
Razvijalec umetne inteligence DeepMind je napovedal novost - bot, imenovan AlphaStar, ki bo na ravni "velemojster" igral priljubljeno spletno strategijo Starcraft-2.
To ni prvič, da je bot pretepel ljudi v strateški vojni igri. Leta 1981 je program z imenom Eurisko, ki ga je razvil eden od pionirjev umetne inteligence Doug Lenat, zmagal na ameriškem Traveller Championship, zelo zapleteni strateški vojni igri, v kateri mora igralec dokončati svojo floto in se boriti proti sovražnikovi floti. Eurisko je na koncu prejel naziv častnega admirala popotnika. Leta 1982 so bila pravila turnirja spremenjena v poskusu, da bi spodnesla računalnik. Toda Eurisko je zmagal vsem dve leti zapored. Potem ko so sponzorji obljubili, da bodo preklicali turnir, če računalnik ponovno zmaga, se je Lenat umaknil.
DeepMind PR želi, da verjamete, da je StarCraft "nastal s soglasjem kot naslednji velik izziv (v PC igrah)" in "je bil izziv za razvijalce AI že več kot 15 let."
Na zadnjem prvenstvu Starcraft je bilo od akademskih ali industrijskih raziskovalnih laboratorijev poslanih samo 4 prijave. Preostalih devet botov so posamezniki napisali sami in ne kot del osrednje raziskave umetne inteligence (AI).
Pravzaprav število avtorjev (42) članka DeepMind, objavljenega 31. oktobra v reviji Nature, precej presega število ljudi, ki delajo na Starcraft botih v tujini. Ne želim zasenčiti uspešnosti tega inženirskega sodelovanja, toda če v reševanje težave vložite dovolj sredstev, je uspeh zagotovljen.
Za razliko od nedavnih zmag v računalniškem šahu AlphaStar ni treniral z igranjem proti sebi. To se je naučil s posnemanjem najboljših epizod iz skoraj milijona iger, ki so jih odigrali najboljši človeški igralci. Pred tem je AlphaStar v 19 od 20 borbah doživel nesporni poraz, pri čemer se je igral s pravimi ljudmi na strežniku igre StarCraft. AlphaStar je igral anonimno, da bi ljudem preprečil izkoriščanje slabosti, ki bi jih lahko našli v prejšnjih igrah.
Decembra lani je AlphaStar premagal enega najboljših profesionalnih igralcev na svetu - Grzegorza MaNa Komincza. Toda to je bila različica AlphaStarja z refleksi, ki so bili bistveno hitrejši od človeških in tudi z neomejenim vidom igralnega polja (za razliko od človeških igralcev, ki vidijo le en del tega naenkrat). Težko bi lahko imenovali enake konkurenčne pogoje.
Promocijski video:
Vendar ima StarCraft nekaj funkcij, zaradi katerih je AlphaStar impresiven razvoj, če ne že pravi preboj. Za razliko od šaha ali vzhodne igre go (strateška igra, ki uporablja tablo s polji 361 - ed.), Igralci StarCrafta odlično razumejo stanje v igri, vendar je število možnih dejanj v njej veliko večje. A boj proti StarCraftu se dogaja v realnem času, vendar zahteva dolgoročno načrtovanje.
Robotske vojne
Postavlja se vprašanje - ali bomo v prihodnosti videli, kako roboti ne samo sodelujejo v vojnah, ampak jih tudi načrtujejo? V resnici se oboje že dogaja.
Kljub številnim opozorilom raziskovalcev AI (kot sem jaz), ustanoviteljev robotike, nobelovcev in cerkvenih voditeljev, je popolnoma samostojno orožje, znano kot "morilski robot", že ustvarjeno in bo kmalu uporabljeno.
Leta 2020 bo Turčija na mejo s Sirijo postavila drone kamikaze. Te drone bodo uporabljale računalniški vid za prepoznavanje, sledenje in ubijanje ljudi brez človeškega posredovanja.
To je grozen razvoj. Računalniki nimajo moralne sposobnosti, da bi se morali moralno uravnotežiti, kdo bo živel in kdo bo umrl. Manjka jim empatije ali sočutja. Morilci roboti bodo sami naravo konflikta spremenili na slabše.
Kaj pa "robotski generali"? Računalniki že desetletja pomagajo generalom pri načrtovanju vojne. V začetku devetdesetih let prejšnjega stoletja, med operacijo Puščavska nevihta med zalivsko vojno, so bila orodja za umetno inteligenco (AI) uporabljena za načrtovanje nastajanja na Bližnjem vzhodu pred spopadom. Ameriški general mi je kmalu zatem povedal, da je bila količina prihranjenega denarja enaka vsoti vsega, kar smo prej porabili za razvoj AI.
Generali uporabljajo računalnike tudi za razvoj večvarstvenih vojaških strategij, ki bodo morda nenadoma potrebne. Vse odločitve o bojišču pa ne prepuščamo v rokah enega vojaka, zato je preusmeritev vse odgovornosti generala na možgane na računalniški procesor predaleč.
Stroj ne more biti odgovoren za svoje odločitve. Odgovorni so samo ljudje. In to je temelj mednarodnega humanitarnega prava. Vendar se bodo generali vse bolj zanašali na računalniško podporo pri svojih odločitvah, da bodo prebili vojno meglo in se spopadli z veliko količino informacij, ki prihajajo s fronte.
Če to povzroči manj civilnih žrtev, manj prijazen požar in večje spoštovanje mednarodnega humanitarnega prava, bi morali pozdraviti takšno računalniško pomoč. Končno odločitev pa mora sprejeti človek, ne stroj.
Tu je še eno zadnje vprašanje, o katerem morate razmišljati. Če tehnološka podjetja, kot je Google, res ne želijo, da se bojimo strojne vstaje, zakaj potem gradijo bote, da bi zmagali v virtualnih vojnah, namesto da se osredotočajo na nekaj bolj mirnega, kot so mirne elektronske igre? Ob vsem spoštovanju do ljubiteljev športa moramo priznati, da so stave na nevojnih igrah precej nižje.
Toby Walsh je profesor umetne inteligence na Univerzi v Novem Južnem Walesu in raziskovalni skupnosti Data61.