Umetna inteligenca se bo kmalu razvila na stopnjo inteligence pri miših ali psih, kar predstavlja družbo etični problem.
Čas je, da razmislimo, ali si umetna inteligenca zasluži etično zaščito, ki jo družba zagotavlja živalim, in pod kakšnimi pogoji jo mora prejeti, poziva izdaja Aeon. To težavo je treba rešiti, preden lahko ustvarimo AI, ki je enak ali boljši od ljudi.
Po vsem svetu že obstaja veliko skupnosti in odborov, ki zagotavljajo, da živali ne bodo po nepotrebnem žrtvovane in neupravičeno trpijo. Kadar se med raziskovanjem uporabljajo človeške matične celice ali človeške možganske celice, so etične zahteve še strožje. Etična plat uporabe umetne inteligence še ni bila raziskana, še manj pa je nadzorovana. Mogoče bi moralo biti tako.
Domnevamo lahko, da si AI ne zasluži takšne etične zaščite, ki jo nudi ljudem in živalim zaradi pomanjkanja zavesti in čustev, kot sta veselje ali trpljenje. Morda. Toda takrat se srečujemo s težkim filozofskim vprašanjem: kako vemo, da smo ustvarili nekaj, kar bi lahko izkusilo veselje in trpljenje? Če je AI dovolj napreden, da se lahko pritoži in zagovarja svoje pravice, je to ena stvar. Kaj pa, če je podoben miši ali psu in ne more povedati o svojih izkušnjah?
Tu se pojavi težava, saj v znanosti še niso dosegli soglasja o tem, kaj je zavest in kako ugotoviti, ali je prisotna ali ne. Menijo, da je za obstoj zavesti potrebna le določena vrsta dobro organizirane obdelave informacij: prožen informacijski model sistema glede na predmete v njegovem okolju, z nadzorovanimi možnostmi pozornosti in dolgoročnim načrtovanjem ukrepov. Morda bodo ljudje v bližnji prihodnosti ustvarili kaj podobnega. Drug bolj konservativen pogled je, da lahko zavest zahteva zelo posebne biološke značilnosti, na primer možgane, ki so videti kot možgani sesalcev. Še vedno smo daleč od te ravni umetne zavesti.
Ni jasno, katera od teh idej je pravilna in ali se bo v bližnji prihodnosti morda pojavila nova definicija zavesti. Če pa je prvo stališče pravilno, bomo morda kmalu ustvarili številne AI nečloveške osebe, ki bodo potrebovale zaščito pravic.
Pravice živali in ljudi so se začele zagovarjati šele potem, ko so bile v zvezi z njimi zabeležene resne etične kršitve - nepotrebna vivisekcije, nacistični vojni zločini, pa tudi raziskave sifilisa v mestu Tuskegee (ZDA), kjer so se s to boleznijo okužili zdravi ljudje. Morda se bo na področju varstva pravic AI zgodilo kaj podobnega.