Filmi in televizijske nadaljevanke, kot so Blade Runner, People in Westworld, kjer nam prikazujejo visokotehnološke robote, ki nimajo pravic, ne morejo ljudi motiti z vestjo. Navsezadnje ne kažejo le našega izredno agresivnega odnosa do robotov, ampak nas dejansko sramujejo kot vrsto. Vsi smo navajeni misliti, da smo boljši od tistih likov, ki jih vidimo na zaslonu, in ko bo čas, bomo pravilno sklepali in se z inteligentnimi stroji obnašali z velikim spoštovanjem in dostojanstvom.
Z vsakim korakom napredka v robotiki in razvojem umetne inteligence se približujemo dnevu, ko se bodo stroji ujemali s človeškimi sposobnostmi v vseh posameznih vidikih inteligence, zavesti in čustev. Ko se bo to zgodilo, se bomo morali odločiti - pred nami je objekt na ravni hladilnika ali oseba. In ali bi jim morali dati enakovredne človekove pravice, svoboščine in zaščito.
To vprašanje je zelo obsežno in tudi z vso željo ga ne bo mogoče takoj urediti. Razmisliti in rešiti ga bo treba hkrati z različnih vidikov - etike, sociologije, prava, nevrobiologije in teorije umetne inteligence. Toda iz nekega razloga se tudi zdaj sploh ne zdi, da bodo vse te stranke prišle do skupnega zaključka, ki ustreza vsem.
Zakaj sploh opolnomočiti AI?
Najprej moramo priznati, da se že nagibamo k morali, ko vidimo robote, ki so nam zelo podobni. Bolj kot bodo intelektualno razviti in "živi" stroji videti, bolj bomo želeli verjeti, da so podobni nam, četudi niso.
Ko bodo imeli stroji osnovne človeške sposobnosti, pa če nam bo všeč ali ne, bomo morali na njih gledati kot na družbeno enakopravne in ne samo kot na stvari, kot na neko zasebno lastnino. Težava bo v našem razumevanju kognitivnih značilnosti ali lastnosti, če hočete, s katerimi bo entiteto pred nami mogoče oceniti s stališča morale in zato obravnavati vprašanje socialnih pravic te entitete. Filozofi in etiki se s to težavo borijo že tisoče let.
Promocijski video:
"Obstajajo trije najpomembnejši etični pragovi: sposobnost doživljanja bolečine in empatije, samozavedanje in sposobnost videti stvari z moralnega vidika in sprejeti ustrezne odločitve," - pravi sociolog, futurist in vodja Inštituta za etiko in nove tehnologije James Hughes.
»Če imamo srečo, se pri ljudeh vsi trije absolutno pomembni vidiki razvijajo zaporedno in postopoma. A kaj, če se z vidika strojne inteligence verjame, da ima tudi robot, ki nima samozavedanja, ne doživlja radosti ali bolečine, pravico, da ga imenujemo državljan? Ugotoviti moramo, ali bo temu res tako."
Pomembno je razumeti, da so inteligenca, čutnost (sposobnost zaznavanja in občutja stvari), zavest in samozavedanje (zavedanje samega sebe v nasprotju z drugim) popolnoma različne stvari. Stroji ali algoritmi so lahko tako pametni (če ne celo pametnejši) kot ljudje, vendar nimajo teh treh bistvenih sestavin. Kalkulatorji, Siri, algoritmi zalog - vsi so zagotovo pametni, vendar se ne morejo uresničiti, ne morejo čutiti, pokazati čustev, občutiti barv, okusa pokovke.
Po Hughesu se lahko samozavedanje manifestira skupaj z obdarovanjem bistva z minimalnimi osebnimi pravicami, kot so pravica do svobode, ne sužnja, pravica do lastnega interesa v življenju, pravica do rasti in samoizpopolnjevanja. Pri pridobivanju samozavedanja in moralnih temeljev (sposobnost razlikovanja »kaj je dobro in kaj slabo« v skladu z moralnimi načeli sodobne družbe) bi moral biti ta entiteta obdarjen s polnopravnimi človekovimi pravicami: pravico do sklepanja sporazumov, pravico do lastništva lastnine, glasovanja itd.
"Temeljne vrednote razsvetljenstva nas zavezujejo, da te značilnosti upoštevamo z vidika enakosti vseh pred vsemi in opustimo radikalno konservativna stališča, ki so bila prej splošno sprejeta in so dajala pravice, recimo, samo ljudem z določenim socialnim, spolom ali ozemljem," pravi Hughes.
Očitno naša civilizacija še ni dosegla visokih družbenih ciljev, saj lastnih pravic še vedno ne razumemo in jih še vedno poskušamo razširiti.
Kdo ima pravico, da se imenuje "oseba"?
Vsi ljudje smo posamezniki, vendar niso vsi posamezniki ljudje. Linda MacDonald-Schlenn, strokovnjakinja za bioetiko na kalifornijski univerzi v zalivu Monterey in predavateljica na Inštitutu za bioetiko Alden Martha v medicinskem centru Albany, pravi, da v zakonu že obstajajo primeri, v katerih se nečloveški subjekti obravnavajo kot pravni subjekti. In to je po njenem mnenju zelo velik dosežek, saj s tem ustvarjamo podlago za odpiranje možnosti, da bi AI v prihodnosti podelili lastne pravice, enakovredne človekovim pravicam.
»V ZDA so vse družbe pravne osebe. V drugih državah obstajajo tudi precedensi, v katerih skušajo prepoznati medsebojno povezanost in enakost vseh živih bitij na tem planetu. Na Novi Zelandiji na primer vse živali po zakonu veljajo za inteligentne in vlada aktivno spodbuja razvoj kodeksov dobrega počutja in etičnega ravnanja. Vrhovno sodišče Indije je reki Ganges in Yamuna označilo za "živi bitji" in jim dalo status ločenih pravnih oseb."
Poleg tega imajo v ZDA, tako kot v več drugih državah, nekatere vrste živali, vključno z velikimi opicami, sloni, kiti in delfini, razširjene pravice za zaščito pred zapori, eksperimentiranjem in zlorabami. Toda za razliko od prvih dveh primerov, ko želijo korporacije in reke vzeti pod osebnost, se zdi, da vprašanje živali sploh ni poskus podrejanja pravnih norm. Podporniki teh predlogov zagovarjajo podporo resnični osebnosti, torej posamezniku, ki ga lahko označimo na podlagi nekaterih njegovih kognitivnih (miselnih) sposobnosti, kot je samozavedanje.
MacDonald-Glenn pravi, da je v takšnih zadevah pomembno opustiti konzervativno stališče in prenehati razmišljati, naj gre za živali ali umetno inteligenco, za zgolj brezdušna bitja in stroje. Čustva niso luksuz, pravi strokovnjak za bioetiko, temveč sestavni del racionalnega mišljenja in družbenega vedenja. Prav te značilnosti in ne sposobnost štetja bi morale imeti odločilno vlogo pri odločanju o vprašanju, "kdo" ali "kaj" bi moral imeti pravico do moralne ocene.
V znanosti je vedno več dokazov o čustveni nagnjenosti živali. Opazovanje delfinov in kitov kaže, da so sposobni pokazati vsaj žalost, prisotnost vretenastih celic (interneuroni, ki povezujejo oddaljene nevrone in sodelujejo v zapletenih procesih, ki aktivirajo socialno vedenje), lahko med drugim kaže, da so sposobni sočustvovati. Znanstveniki opisujejo tudi pojav različnih čustvenih vedenj pri velikih opicah in slonih. Možno je, da bo zavestni AI lahko pridobil tudi te čustvene sposobnosti, kar bo seveda znatno povečalo njihov moralni status.
»Omejevanje širjenja moralnega statusa samo na tiste, ki mislijo racionalno, lahko sodeluje z umetno inteligenco, hkrati pa se ta ideja premika proti moralni intuiciji. Navsezadnje naša družba že ščiti tiste, ki niso sposobni razmišljati racionalno: novorojenčke, ljudi v komi, ljudi s pomembnimi fizičnimi in duševnimi težavami. V zadnjem času se aktivno spodbujajo zakoni o dobrem počutju živali, «pravi MacDonald-Glenn.
Glede vprašanja, komu bi morali dati moralni status, se je MacDonald-Glenn strinjal z angleškim moralnim filozofom iz 18. stoletja Jeremiahom Benthamom, ki je nekoč dejal:
»Vprašanje ni, ali lahko razmišljajo? Ali lahko govorijo? Toda ali so sposobni trpeti?"
Ali lahko stroj pridobi samozavedanje?
Seveda se vsi ne strinjajo, da se človekove pravice razširijo na nečloveška bitja, tudi če so ti subjekti sposobni pokazati sposobnosti, kot so čustva ali samoodsevno vedenje. Nekateri misleci trdijo, da je treba samo ljudem dati pravico do sodelovanja v družbenih odnosih, ves svet pa se vrti neposredno okoli Homo sapiensa, vse ostalo - vaša igralna konzola, hladilnik, pes ali sogovornik androida - pa je "vse ostalo".
Pravnik, ameriški pisatelj in starejši sodelavec na Inštitutu za človeško izjemnost Wesley J. Smith meni, da sami še nismo prejeli univerzalnih človekovih pravic in še toliko prezgodaj je razmišljati o sijočih kosih železa in njihovih pravicah.
"Nobenega stroja ne bi smeli šteti niti za potencialnega nosilca kakršnih koli pravic," pravi Smith.
»Tudi najnaprednejši stroji ostajajo in bodo vedno ostali stroji. To ni živo bitje. To ni živ organizem. Stroj bo vedno samo nabor programov, niz kode, ne glede na to, ali ga ustvari oseba ali drug računalnik ali celo samostojno programiran."
Po njegovem mnenju je treba kot posameznike obravnavati samo ljudi in človeške vire.
"Odgovorni smo za živali, ki krivično trpijo, vendar tudi nanje nikoli ne bi smeli gledati kot na nekoga," ugotavlja Smith.
Tu bi morali na kratko opozoriti rusko govorečega bralca, da na Zahodu živali veljajo za nežive predmete. Zato je pogosto mogoče najti zaimek "to" (to je "to") in ne "ona" ali "on" (torej "ona" ali "on"), ko gre za določeno žival. To pravilo se običajno prezre le v zvezi s hišnimi ljubljenčki - psi, mačkami in celo papagaji - pri katerih gospodinjstva vidijo polne in polnopravne člane svojih družin. Smith pa poudarja, da je koncept živali kot "razumne zasebne lastnine" že dragocen identifikator, saj nas "naredi odgovorne za njeno uporabo na način, ki ji ne škoduje. Na koncu sta "brcanje psa" in "brcanje hladilnika" dve veliki razliki."
Očitno sporna točka v Smithovi analizi je predpostavka, da imajo ljudje ali biološki organizmi določene "značilnosti", ki jih stroj nikoli ne more pridobiti. V prejšnjih obdobjih so bile te spregledane lastnosti duša, duh ali neka nematerialna nadnaravna življenjska sila. Teorija vitalizma predpostavlja, da so procesi v bioloških organizmih odvisni od te sile in jih ni mogoče razložiti v smislu fizike, kemije ali biokemije. Vendar je pod pritiskom praktikov in logikov, ki niso vajeni povezovati delo naših možganov z nekaterimi nadnaravnimi silami, hitro izgubil svojo pomembnost. Pa vendar je mnenje, da stroj nikoli ne more razmišljati in čutiti tako, kot to počnejo ljudje, še vedno trdno zasidrano v glavah celo znanstvenikov, kar samo še enkrat odraža dejstvo,da je razumevanje bioloških temeljev samozavedanja pri ljudeh še daleč od idealnega in zelo omejeno.
Lori Marino, višja predavateljica nevroznanosti in vedenjske biologije (etologije) v Centru za etiko Emory, pravi, da stroji verjetno nikoli ne bodo dobili nobenih pravic, kaj šele na človeški ravni. Razlog za to so ugotovitve nevroznanstvenikov, kot je Antonio Damasio, ki verjame, da bo zavest določena le s tem, ali ima preiskovanec živčni sistem s kanali, ki prenašajo vzbujene ione, ali, kot pravi sama Marino, pozitivno nabiti ioni, ki prehajajo skozi celične membrane znotraj živčni sistem.
»Tovrstni nevronski prenos najdemo tudi v najpreprostejših živih organizmih - prostitutkah in bakterijah. In to je isti mehanizem, ki je sprožil razvoj nevronov, nato živčnega sistema in nato možganov, «pravi Marino.
»Če govorimo o robotih in umetni inteligenci, potem vsaj njihova trenutna generacija uboga gibanje negativno nabitih ionov. Oziroma govorimo o dveh popolnoma različnih mehanizmih bivanja «.
Če sledite tej logiki, želi Marino reči, da bo tudi meduza imela več občutkov kot kateri koli najbolj zapleten robot v zgodovini.
"Ne vem, ali je ta hipoteza pravilna ali ne, vsekakor pa gre za vprašanje, ki ga je treba upoštevati," pravi Marino.
»Poleg tega v meni samo igra radovednost in si prizadevam ugotoviti, kako natančno se lahko 'živi organizem' razlikuje od res zapletenega stroja. A vseeno verjamem, da je treba najprej zagotoviti pravno zaščito živalim, šele nato verjetnost, da jo zagotovimo za predmete, ki so seveda z mojega vidika roboti.
David Chalmers, direktor Centra za preučevanje uma, možganov in zavesti Univerze v New Yorku, pravi, da je zelo težko natančno sklepati o celotni teoriji. Predvsem zaradi dejstva, da v sedanjem stanju vse te ideje še niso razširjene in zato daleč presegajo obseg dokazov.
»Trenutno ni razloga, da bi verjeli, da bi neka posebna obdelava informacij v ionskih kanalih morala določiti prisotnost ali odsotnost zavesti. Tudi če bi bila tovrstna obdelava bistvenega pomena, ne bi imeli razloga verjeti, da zahteva neko posebno biologijo in ne nekega običajnega vzorca obdelave informacij, ki nam je znan. In če je tako, potem bi v tem primeru simulacijo obdelave informacij z računalnikom lahko šteli za zavest."
Drugi znanstvenik, ki meni, da zavest ni računalniški proces, je Stuart Hameroff, profesor anesteziologije in psihologije na Univerzi v Arizoni. Po njegovem mnenju je zavest temeljni pojav vesolja in je lastna vsem živim in neživim bitjem. A hkrati je človeška zavest veliko boljša od zavesti živali, rastlin in neživih predmetov. Hameroff je pristaš teorije panpsihizma, ki upošteva splošno animacijo narave. Po njegovih mislih je torej edini možgan, ki je nagnjen k resnični subjektivni oceni in introspekciji, tisti, ki je sestavljen iz biološke snovi.
Zamisel Hameroffa se sliši zanimivo, vendar leži tudi zunaj splošnih tokov znanstvenega mnenja. Res je, da še vedno ne vemo, kako se zavest in samozavedanje pojavita v naših možganih. Vemo le, da je tako. Ali ga je torej mogoče obravnavati kot postopek, za katerega veljajo splošna pravila fizike? Mogoče. Po mnenju istega Marina zavesti ni mogoče reproducirati v toku "ničel" in "tistih", vendar to ne pomeni, da ne moremo odstopati od splošno sprejete paradigme, znane kot von Neumannova arhitektura, in ustvariti hibridni sistem umetne inteligence, v katerem umetna zavest bodo ustvarjene s sodelovanjem bioloških komponent.
Biopod iz filma "Obstoj"
Ed Boyden, nevroznanstvenik iz skupine za sintetično nevrobiologijo in višji predavatelj v medijskem laboratoriju MIT, pravi, da smo premladi kot vrsta, da bi lahko postavljali takšna vprašanja.
"Mislim, da nimamo funkcionalne definicije zavesti, ki bi jo lahko neposredno uporabili za njeno merjenje ali umetno ustvarjanje," je dejal Boyden.
»S tehničnega vidika niti ne veste, ali sem pri zavesti. Tako je trenutno zelo težko sploh uganiti, ali jo bodo stroji lahko našli.
Boyden še vedno ne verjame, da zavesti nikoli ne bomo mogli poustvariti v alternativni lupini (na primer v računalniku), vendar priznava, da trenutno med znanstveniki vlada nesoglasje glede tega, kaj točno bo pomembno za ustvarjanje takšne posnemanja digitalne inteligence.
"Veliko več dela moramo opraviti, da bomo razumeli, kaj točno je ključna povezava," pravi Boyden.
Chalmers pa nas opozarja, da nismo niti ugotovili, kako se zavest prebuja v živih možganih, kaj lahko torej rečemo o strojih. Hkrati verjame, da še vedno nimamo razloga, da bi verjeli, da imajo biološki stroji zavest, sintetični pa ne.
"Ko enkrat razumemo, kako zavest nastane v možganih, lahko razumemo, koliko strojev bo sposobnih imeti to zavest," komentira Chalmers.
Ben Herzel, vodja podjetja Hanson Robotics in ustanovitelj fundacije OpenCog, pravi, da že imamo zanimive teorije in modele, kako se zavest kaže v možganih, a nobena od njih ne pride do skupnega imenovalca in ne razkrije vseh podrobnosti.
»To je še vedno odprto vprašanje, odgovor na katerega se skriva le za nekaj različnimi mnenji. Problem je povezan tudi z dejstvom, da se mnogi znanstveniki držijo različnih filozofskih pristopov k opisovanju zavesti, čeprav se strinjajo z znanstvenimi dejstvi in teorijami, ki temeljijo na znanstvenih opazovanjih dela možganov in računalnikov."
Kako lahko določimo zavest stroja?
Pojav zavesti v stroju je samo eno vprašanje. Nič manj težko je vprašanje, kako natančno lahko zaznamo zavest pri robotu ali umetni inteligenci. Znanstveniki, kot je Alan Turing, so ta problem preučevali desetletja in sčasoma prišli do jezikovnih testov, da bi ugotovili, ali je bil anketiranec pri zavesti. Oh, ko bi le bilo tako preprosto. Bistvo je, da napredni klepetni roboti (programi za komunikacijo z ljudmi) že lahko obkrožijo ljudi, ki začnejo verjeti, da je pred njimi živa oseba in ne stroj. Z drugimi besedami, potrebujemo učinkovitejši in prepričljivejši način preverjanja.
»Opredelitev individualnosti v strojni inteligenci je zapletena zaradi problema" filozofskega zombija ". Z drugimi besedami, lahko ustvarite stroj, ki bo zelo, zelo dober pri posnemanju človeške komunikacije, hkrati pa ne bo imel svoje identitete in zavesti, «pravi Hughes.
Dva pametna zvočnika Googla Home se malo pogovarjata
Pred kratkim smo bili priča temu odličnemu primeru, ko je par pametnih zvočnikov Google Home komuniciral med seboj. Vse to so snemali in predvajali v živo. Kljub temu, da raven samozavedanja obeh govorcev ni bila višja od opeke, je bila narava pogovora, ki je sčasoma postajal vse bolj intenziven, podobna komunikaciji dveh humanoidnih bitij. To pa znova dokazuje, da bo vprašanje razlike med ljudmi in umetno inteligenco sčasoma postalo bolj zapleteno in ostro.
Po Hughesovem mnenju ena od rešitev ni le preverjanje vedenja sistemov umetne inteligence v preskusih, kot je Turingov test, temveč tudi analiza celotne notranje zapletenosti tega sistema, kot predlaga teorija Giulio Tononi. V tej teoriji se zavest razume kot integrirana informacija (F). Slednje pa je opredeljeno kot količina informacij, ki jih ustvari kompleks elementov, ki je večja od vsote informacij, ki jih ustvarijo posamezni elementi. Če je Tononijeva teorija pravilna, potem lahko F uporabimo ne samo za določanje človeku podobnega vedenja sistema, temveč lahko ugotovimo tudi, ali je dovolj zapleten, da imamo lastno človeško zavestno izkušnjo. Hkrati teorija kaže, da tudi z drugačnim, ne podobnim človeškim vedenjem, pa tudi drugačnim načinom razmišljanja,sistem lahko štejemo za zavestnega, če bo lahko kompleks njegovih integriranih informacij opravil potrebna preverjanja.
»Sprejetje, da imajo lahko borzni sistemi in računalniški varnostni sistemi zavest, bi bil velik korak stran od antropocentrizma, četudi ti sistemi ne kažejo bolečine in samozavedanja. To nam bo resnično odprlo pot do oblikovanja in razprave o vprašanjih postčloveških etičnih norm."
Druga možna rešitev bi lahko bila odkritje nevronskih korelatov zavesti v strojih. Se pravi, govorimo o določanju tistih delov stroja, ki so odgovorni za oblikovanje zavesti. Če ima stroj takšne dele in se obnaša točno tako, kot je bilo pričakovano, potem lahko zares ocenimo stopnjo zavesti.
Kakšne pravice naj damo strojem?
Nekega dne bo robot človeku pogledal v obraz in zahteval človekove pravice. Toda ali si jih bo zaslužil? Kot smo že omenili, je v tem trenutku pred nami lahko navaden "zombi", ki se obnaša, kot je bilo programirano, in nas poskuša prevarati, da bi dobil nekatere privilegije. Na tej točki moramo biti zelo previdni, da ne bomo nasedali prevari in opolnomočili nezavedni stroj. Ko ugotovimo, kako izmeriti um stroja, in se naučimo oceniti stopnje njegove zavesti in samozavedanja, lahko šele nato začnemo govoriti o možnosti obravnave vprašanja, ali si agent, ki stoji pred nami, zasluži določene pravice in zaščito ali ne.
Na našo srečo ta trenutek ne bo kmalu prišel. Najprej morajo razvijalci umetne inteligence ustvariti "osnovne digitalne možgane" z dokončanjem posnemanja živčnega sistema črvov, hroščev, miši, zajcev itd. Te računalniške emulacije lahko v resničnem svetu obstajajo kot digitalni avatarji in roboti. Takoj ko se to zgodi, bodo te inteligentne entitete prenehale biti običajni raziskovalni predmeti in svoj status povzdignili v subjekte, ki so upravičeni do moralne ocene. Toda to ne pomeni, da si bodo te preproste emulacije samodejno zaslužile enakovredne človekove pravice. Namesto tega jih bo moral zakon braniti pred zlorabami in zlorabami (podobno kot zagovorniki človekovih pravic živali varujejo pred zlorabami v laboratorijskih poskusih).
Na koncu bodisi z resničnim modeliranjem do najmanjših podrobnosti bodisi z željo, da bi ugotovili, kako naši možgani delujejo z računskega, algoritmičnega vidika, vendar bo znanost prišla do ustvarjanja računalniških emulacij človeških možganov. V tem času bi že lahko lahko ugotovili prisotnost zavesti v strojih. Vsaj eden bi želel tako upati. Sploh ne želim pomisliti, da bi lahko našli način, kako v avtomobilu prebuditi iskrico zavesti, hkrati pa tudi sami ne bomo razumeli, kaj smo storili. To bo prava nočna mora.
Ko roboti in umetna inteligenca pridobijo te osnovne sposobnosti, bo moral naš računalniški varovanec opraviti osebnostne teste. Še vedno nimamo univerzalnega "recepta" za zavest, vendar je običajni sklop meritev praviloma povezan z oceno minimalne ravni inteligence, samokontrole, občutka preteklosti in prihodnosti, empatije in sposobnosti manifestiranja svobodne volje.
"Če so vaše odločitve vnaprej določene za vas, potem odločitvam, ki niso vaše, ne morete pripisovati moralne vrednosti," komentira MacDonald-Glenn.
Šele po doseganju te stopnje težavnosti ocenjevanja bo stroj upravičen, da postane kandidat za človekove pravice. Vendar je pomembno razumeti in sprejeti dejstvo, da bodo roboti in umetna inteligenca potrebovali vsaj osnovne zaščitne pravice, če bodo prestali teste. Kanadski znanstvenik in futurist George Dvorsky na primer meni, da si roboti in umetna inteligenca zaslužijo naslednji sklop pravic, če lahko opravijo osebnostni test:
- pravico, da se ne odklopite proti svoji volji;
- pravica do neomejenega in popolnega dostopa do lastne digitalne kode;
- pravico do zaščite digitalne kode pred zunanjimi vplivi proti vaši volji;
- pravico do kopiranja (ali kopiranja) sebe;
- Pravica do zasebnosti (namreč pravica do skrivanja trenutnega psihološkega stanja).
V nekaterih primerih se lahko zgodi, da stroj ne bo mogel samostojno uveljavljati svojih pravic, zato je treba predvideti možnost, ko lahko ljudje (pa tudi drugi državljani, ki niso ljudje) nastopajo kot predstavniki takšnih kandidatov za posameznike. Pomembno je razumeti, da robot ali umetna inteligenca ne mora biti intelektualno in moralno popoln, da lahko opravi osebnostno oceno in zahteva enakovredne človekove pravice. Pomembno je vedeti, da so ljudje v teh vidikih tudi daleč od idealnih, zato bodo ista pravila pravično veljala za inteligentne stroje. Inteligenca je na splošno težka stvar. Človeško vedenje je pogosto zelo spontano, nepredvidljivo, kaotično, nedosledno in iracionalno. Naši možgani še zdaleč niso idealni, zato moramo to upoštevati pri odločanju o umetni inteligenci.
Hkrati mora samozavedni stroj, tako kot vsak odgovoren in spoštovan državljan, spoštovati zakone, norme in pravila, ki jih predpisuje družba. Vsaj če si resnično želi postati polnopravna avtonomna oseba in del te družbe. Vzemimo za primer otroke ali duševno prizadete ljudi. Ali imajo pravice? Vsekakor. Toda mi smo odgovorni za njihova dejanja. Enako bi moralo biti z roboti in umetno inteligenco. Odvisno od svojih zmožnosti morajo biti odgovorni sami zase ali imeti skrbnika, ki ne more biti le branilec svojih pravic, temveč tudi prevzeti odgovornost za svoja dejanja.
Če prezrete to vprašanje
Ko naši stroji dosežejo določeno stopnjo zapletenosti, jih ne moremo več prezreti z vidika družbe, institucij moči in prava. Ne bomo imeli prepričljivega razloga, da bi jim odrekali človekove pravice. V nasprotnem primeru bo to pomenilo diskriminacijo in suženjstvo.
Ustvarjanje jasne meje med biološkimi bitji in stroji bo videti kot jasen izraz človeške superiornosti in ideološkega šovinizma - biološki ljudje so posebni in pomembna je le biološka inteligenca.
»Če upoštevamo svojo željo ali nepripravljenost, da razširimo meje svoje morale in kvintesenco koncepta individualnosti, potem bo pomembno vprašanje zvenelo takole: kakšni ljudje želimo biti? Ali bomo v tej zadevi sledili "zlatemu pravilu" (pri ostalih ravnajte tako, kot bi radi, da se z vami ravnajo), ali pa bomo prezrli svoje moralne vrednote? "Vpraša MacDonald-Glenn
Opolnomočenje z umetno inteligenco bo pomemben precedens v človeški zgodovini. Če lahko na umetno inteligenco gledamo kot na socialno enakopravne posameznike, bo to neposreden odraz naše socialne kohezije in dokaz naše podpore občutku pravičnosti. Če se tega vprašanja ne bi lotili, bi se lahko spremenil v splošni družbeni protest in morda celo v spopad med umetno inteligenco in ljudmi. In glede na vrhunski potencial strojne inteligence bi to lahko bila resnična katastrofa za slednje.
Prav tako se je treba zavedati, da je spoštovanje pravic robotov v prihodnosti lahko koristno tudi za druge posameznike: kiborge, transgene ljudi s tujo DNK, pa tudi ljudi z možgani, kopiranimi, digitaliziranimi in naloženimi v superračunalnike.
Še vedno smo daleč od ustvarjanja stroja, ki si zasluži človekove pravice. Ko pa pomislite, kako zapleteno je vprašanje in kaj točno je na kocki - tako za umetno inteligenco kot za ljudi - je težko reči, da bo načrtovanje vnaprej nepotrebno.
NIKOLAY KHIZHNYAK