V Ženevi se v ponedeljek, 27. avgusta, začnejo pogovori skupine vladnih strokovnjakov iz 70 držav pod okriljem OZN o smrtnih avtonomnih sistemih orožja. Od posvetovanj je odvisno, ali bo pojav popolnoma samoupravljenih robotskih morilcev v prihodnjih letih postal resničnost, ki bo brez človeškega nadzora izbrala tarčo in se odločila za njeno uničenje.
Majhen korak do avtonomnega orožja
Mednarodni diplomati, strokovnjaki za razorožitev in predstavniki civilne družbe so o avtonomnem orožju začeli razpravljati že leta 2014. Ta neuradna posvetovanja so se razvila v formalna pogajanja lani. Popolnoma samo vodeno orožje še ni bilo treba ustvariti, vendar številne države veliko vlagajo v prilagajanje tehnologije umetne inteligence vojaškim potrebam. Številne države so že oborožene s sistemi z elementi umetne inteligence - od brezpilotnih letal in stranskih robotov do naprav za odstranjevanje eksplozivnih naprav. Hkrati se nadaljuje razvoj umetnih nevronskih mrež, ki omogoča umetni inteligenci samospoznavanje.
Thomas Kuchenmeister.
"Za ustvarjanje popolnoma avtonomnih orožnih sistemov je le majhen korak," je dejal Thomas Küchenmeister, vodja nemške organizacije Facing Finance, ki sodeluje v mednarodni kampanji Robots Stop Killer. Kaj je narobe z uporabo avtomatskih sistemov, ki so natančnejši in so sposobni analizirati velike količine podatkov?
Kuchenmeister v intervjuju za DW poudarja, da samovozeči sistemi ne morejo razlikovati med na primer vojaškim in civilnim tovornjakom. In to je že v nasprotju z mednarodnim humanitarnim pravom, ki deluje v oboroženih spopadih in je v največji možni meri namenjeno zaščiti civilnega prebivalstva. "Vendar ne moremo vsaditi čipa mednarodnega prava v to orožje," se pritožuje kampanjo proti robotom morilcem.
Promocijski video:
Kitajska je za moratorij, ZDA in Rusija pa proti
26 držav, vključno z Avstralijo, Brazilijo in Kitajsko, se zavzema za preventivni moratorij na avtonomne sisteme orožja. Odprto pismo v podporo njihovemu stališču je podpisalo več kot 230 organizacij po vsem svetu in približno 3000 podjetnikov in znanstvenikov, ki delujejo na področju umetne inteligence. Med njimi sta na primer ustanovitelja Tesle in Space X, Elon Musk in Deep Mind (v lasti Googla). "Odločitev, da si človek vzame življenje, nikoli ne bi smela biti prenesena na robota," piše v pismu.
Bojni robot na razstavi v Kijevu, 2016.
Prepovedi nasprotujejo države, ki aktivno vlagajo v uporabo umetne inteligence v vojaške namene, na primer ZDA, Izrael, Rusija in Velika Britanija. Kot je nekoč dejal ruski predsednik Vladimir Putin, bo vodja pri ustvarjanju umetne inteligence "gospodar sveta".
ZDA celo poskušajo avtonomno orožje prikazati v pozitivni luči in trdijo, da se bodo pomagale izogniti "kolateralnemu uničenju". Navsezadnje lahko računalnik, za razliko od vojaka, hitreje analizira celotno situacijo na bojišču in naredi manj napak, so prepričani v Washingtonu. Med zadnjim krogom posvetovanj v Ženevi je ameriška delegacija pozvala, naj takšnega orožja ne stigmatizira.
Stališče Berlina: od razglasitve do postopne prepovedi
Nemška vlada se zavzema za "mednarodno prepoved" avtonomnega orožja - to je zapisano v koalicijski pogodbi nemškega kabineta. Berlin hkrati meni, da je taktično napačno vztrajati pri moratoriju na trenutna pogajanja v Ženevi, saj so stališča držav preveč različna. Skupaj s Francijo Nemčija predlaga začasno rešitev: prvi korak bi lahko bil sprejetje politične deklaracije pri ZN, ki bi govorila o pomembnosti ohranjanja človeškega nadzora nad avtonomnimi orožnimi sistemi. Nato Berlin in Pariz predlagata sprejetje vojaškega kodeksa ravnanja in šele nato - neposredno pogodbo o prepovedi takega orožja.
Po mnenju nemških diplomatov bo tak večstopenjski pristop omogočil premagovanje obstoječih nasprotij - navsezadnje bi se nasprotniki moratorija lahko brez kakršnih koli obveznosti pridružili politični deklaraciji. Hkrati bi ta dokument ustvaril določene splošne standarde, ki utirajo pot utrjevanju prepovedi samoupravnega orožja v mednarodnem pravu.
Dogovor zunaj OZN?
Vendar se stališče nemških aktivistov gibanja "Ustavi robote morilce" ne zdi dovolj trdo. Menijo, da bi morala biti FRG v ospredju boja za takojšen moratorij. Druge države bi mu sledile, je prepričan Thomas Kuchenmeister. "Če želi nemška vlada doseči prepoved takšnega orožja, potem mora to dokazati, torej prevzeti odgovornost," poudarja.
Tako ali drugače imajo države vedno manj časa, da se dogovorijo o stališčih, saj se tehnologije iz dneva v dan izboljšujejo. Če na ženevskih pogovorih ne bo doseženega napredka, se bo okrepil pritisk civilne družbe, napoveduje Kuchenmeister.
Po njegovem mnenju je v tem primeru mogoče doseči dogovor o moratoriju na avtonomno orožje zunaj okvira ZN, kot se je to zgodilo nekoč s prepovedjo protipehotnih min. V letih 1996-1997 je kanadska vlada in predstavniki več deset drugih držav neodvisno organizirali številne konference, ki so se končale z Ottavsko pogodbo. Do danes se je k sporazumu že pridružilo 164 držav. Ta proces je bil v veliki meri sprožen zaradi aktivne civilne kampanje za prepoved protipehotnih min. To gibanje je leta 1997 prejelo Nobelovo nagrado za mir.