Kako računalniki sprejemajo čudne odločitve
Umetna inteligenca se razvija tako hitro, da mnogi začnejo čutiti tesnobo: če bo kmalu lahko izkusila čustva in sprejela svoje odločitve. Naj bo to bot, avtonomno vozilo ali odločevalec v podjetju in znanosti: umetna inteligenca prodira na vsa področja našega življenja in družbe. Strojni možgani veljajo za logične, nemotivne in nepristranske, praksa pa kaže, da ne odločajo vedno o vsem odprtega duha.
Umetna inteligenca je nepogrešljiva, kadar je pomembno prepoznati vzorce v velikih količinah podatkov in na podlagi njih sprejemati odločitve. Toda v prihodnosti bi lahko sisteme umetne inteligence uporabili tudi na področjih, kjer je naše počutje in celo življenje neposredno odvisno od sklepov - v medicini, izbiri delovnih mest, izdajanju posojil in pravosodju.
Kako objektivno in moralno pravilno se odloča umetna inteligenca? Ali lahko resnično zaupamo strojnim možganom za sprejemanje tako potencialno pomembnih odločitev?
Umetna inteligenca se uporablja na vseh področjih
Tudi zdaj se prilagodljivi algoritmi uporabljajo na številnih področjih našega vsakdanjega življenja. Obstajajo digitalni pomočniki za razumevanje glasovnih ukazov in vprašanj. Na internetu spletni boti pomagajo pri vzdrževanju in nadzoru spletnih mest, tako da jih je težko ločiti od ljudi. Tudi ko odkrijemo lažne novice in manipulacije s sliko, so vključeni sistemi umetne inteligence.
Promocijski video:
AI sistemi opravljajo svoje delo tudi v industriji, poslu in celo vladi. Optimizirajo in nadzorujejo proizvodne procese, urejajo logistiko pristanišč zabojnikov in velikih skladišč ali vodijo računovodske evidence. Zavarovalnice in banke že imajo prve inteligentne programe za preverjanje oddanih vlog ali odločanje o plačilih. V Ikei, Deutsche Telekomu in številnih drugih podjetjih, UNICEF-u ali knjižnicah so virtualni pomočniki vključeni v storitve za stranke.
Velika količina obdelanih podatkov za usposabljanje
Vse to je mogoče zaradi sposobnosti AI sistemov, da hitro analizirajo ogromne količine podatkov, prepoznajo vzorce in korelacije. Na primer, algoritem se uči iz neštetih fotografij hišnih ljubljenčkov z ustreznimi imeni. Po obdobju usposabljanja lahko sistem izbere popolnoma nove fotografije želenih vrst. Razlike prepozna sam.
Številni drugi AI uporabljajo besedilo kot osnovo za učenje. Ocenjujejo kontekst, v katerem beseda stoji, in preučujejo njen pomenski pomen, pa tudi odnose s podobnimi besedami ali sopomenkami. Ti semantični odnosi prevajajo programe v matematične izraze in se tako učijo celo zapletenih semantičnih kontekstov.
Na primer umetna inteligenca lahko samo na podlagi te sposobnosti oceni medicinske podatke in medicinske kartoteke ter iz njih sklepa o značilnostih kliničnih slik. Na podlagi teh rezultatov se AI sistemi že uporabljajo kot diagnostični pripomočki, prepoznajo lahko različne vrste raka, znake Alzheimerjeve bolezni, samomorilne razmere in nevarno raven sladkorja pri sladkorni bolezni.
A kot se sliši, vse več AI ima veliko pomanjkljivost. Čim več umetna inteligenca prodre v praktično vse sfere naše družbe, večje so potencialne posledice njenih odločitev. Finančna ali poklicna prihodnost človeka ali celo njegovega življenja je odvisna od njegove presoje.
AI rešitve, ki lahko stanejo življenja
Na primer, če AI napačno diagnosticira v medicini, ne da bi bil zaslišan, lahko bolnik opravi napačno zdravljenje ali celo umre. Vojska uporablja avtonomni orožni sistem, ki sprejema napačne odločitve. Na primer, AI ne more razlikovati bežečega prijatelja od sovražnika, nedolžnega umrlca.
AI algoritmi se že uporabljajo na sodiščih v ZDA. Na sodišču napovedujejo verjetnost ponovnega povračila kršiteljev. Njihova presoja pogosto vpliva na odločitev sodišča in posledično na kazen obsojenca.
Če se AI odloči za posojila
Prav tako lahko odločitev v financah in zavarovanju vpliva na to, ali oseba dobi posojilo ali ne. Ti sistemi se navadno usposabljajo z uporabo podatkovnih baz.
In tu AI išče vzorce: kateri ljudje običajno odplačujejo posojila in kateri ne? Razvija svoje postopke ocenjevanja in sprejema ustrezne odločitve. Zlasti to pomeni, da ljudje z napačnim prebivališčem ali poklicem kljub tem okoliščinam ne bodo dobili posojil, ne glede na to, koliko so pripravljeni plačati.
S takšno porazdelitvijo odgovornosti z računalniki bo človek le pomočnik pri izvajanju odločitev kibernetskih možganov. In to se že dogaja.
Kdo je odgovoren za napake?
Druga težava pri razvoju AI: bolj zapletena so načela odločanja, težje jih je razumeti. Poraja se tudi vprašanje, kdo je odgovoren za napake.
Primeri nesreč med vožnjo avtomobilov na avtopilotu so vse pogostejši: kdo je kriv za to, da nekatere situacije niso shranjene v spominu ali AI potegne napačne sklepe. Ali pa morda sam sklepa? Takšnih primerov že obstaja.
Igralni boti so med igro razvili svoja pravila
Za to študijo so raziskovalci dovolili, da je 100 pametnih botov medsebojno komuniciralo v koncesijski igri. Vsak od njih se mora odločiti, ali bo od zunaj kaj podaril nekomu iz svoje ekipe ali nekemu udeležencu v igri.
Presenetljivo je, da so sčasoma boti vedno bolj izključeni iz zunanjih skupin in darovali le članom svoje ekipe.
Razlog za to: pametni boti so prilagodili svojo strategijo igre, kopirajo vedenje tovarišev, ki so zbrali največ denarja in bili najbolj uspešni. Tako so nastale skupine botov, ki so se obnašali na enak način in dosledno izključevali nepovezane udeležence igre. Nenehno ustvarja nekaj, kar izračuna, analizira in sprejema odločitve hitreje od njega, človeštvo bo nekega dne izgubilo nadzor nad svojim ustvarjanjem, katerega dejanja ne bo mogel slediti.
Po mnenju znanstvenikov je to očitno: umetna inteligenca ne potrebuje umetnih podatkov, da bi bili pristranski, dovolj je, da imajo okoli sebe druge stroje. Ker tudi to lahko ustvari skupinski um, ki ga poznajo človeške skupnosti. Zato bi morali ljudje z uporabo AI odločitev prepustiti sebi.
Vasilik Svetlana