Danes morajo strokovnjaki s področja ustvarjanja umetne inteligence na človeku reševati ne le znanstvene, temveč tudi etične težave. Kakšni so izzivi, s katerimi se soočajo znanstveniki? Kako zaščititi človeštvo pred potencialnimi grožnjami, ki jih predstavlja ustvarjanje premočnega uma, in ostati človek v novem svetu? Profesor Inštituta za inteligentne kibernetske sisteme Nacionalne raziskovalne jedrske univerze "MEPhI" (IIKS NRNU MEPhI) Aleksej Samsonovič je o tem povedal dopisnici projekta "Socialni navigator" MIA "Russia Today" Anna Kurskaya.
- Aleksej Vladimirovič, naš pogovor poteka v okviru mednarodne konference "Biološko navdihnjene kognitivne arhitekture" BICA 2019. Katere teme razprave danes izstopajo v zvezi z ustvarjanjem umetne inteligence na ravni človeka?- Konferenca nam je omogočila, da ponovno spoznamo glavne izzive na področju ustvarjanja umetne inteligence naslednje generacije, ki bi morala postati enakovreden človekov partner in prijatelj. Prvič, izziv je ustvariti čustveno inteligenco na ravni človeka, ki lahko izkoristi čustva pri sprejemanju odločitev in generiranju vedenja. Zlasti bo ta kakovost omogočila, da stroj vzpostavi dolgoročne družbene vezi, podobne tistim med ljubljenimi. Prav tako ji bo omogočila, da upraviči svoja dejanja in odločitve, izbere cilje in način učenja. Čustvena inteligenca je ključna za odgovor na druge izzive. Ni omejena na sposobnost prepoznavanja in izražanja čustev, ki jih danes zaseda večina raziskovalcev, ki delujejo na tem področju. Čeprav sta oba postopka potrebna,veliko bolj pomembno in težje je razumeti povezavo med enim in drugim, kar nam zagotavlja čustvena inteligenca. Drugič, inteligentni agent mora razumeti kontekst dogajanja. To pomeni, da mora na podlagi informacij, ki so mu na voljo, samostojno ustvarjati in nenehno posodabljati globalni scenarij preteklosti in prihodnosti, določiti svojo vlogo v njem in nato na tej podlagi postaviti sebi posebne cilje in razviti načrte za njihovo dosego. V znanstveni literaturi to sposobnost običajno imenujemo "pripovedna inteligenca" (ne smemo je mešati s programi, ki delujejo po scenariju ali pripovedi, ki jo je prej napisala oseba).da mora samostojno ustvarjati in nenehno posodabljati globalni scenarij preteklosti in prihodnosti na podlagi informacij, ki so mu na voljo, določiti svojo vlogo v njem in nato na tej podlagi postaviti določene cilje in razviti načrte za njihov dosežek. V znanstveni literaturi to sposobnost običajno imenujemo "pripovedna inteligenca" (ne smemo je mešati s programi, ki delujejo po scenariju ali pripovedi, ki jo je prej napisala oseba).da mora samostojno ustvarjati in nenehno posodabljati globalni scenarij preteklosti in prihodnosti na podlagi informacij, ki so mu na voljo, določiti svojo vlogo v njem in nato na tej podlagi postaviti določene cilje in razviti načrte za njihov dosežek. V znanstveni literaturi to sposobnost običajno imenujemo "pripovedna inteligenca" (ne smemo je mešati s programi, ki delujejo po scenariju ali pripovedi, ki jo je prej napisala oseba).ali pripoved).ali pripoved). - Ali obstaja tretji izziv?
- To bo izvajanje aktivnega učenja umetne inteligence, ki tako kot človek sam razvije sistem vrednot, ki motivira učni proces, sam oblikuje cilje in načrt za učenje, izbere sredstva (na primer poskuse za preizkušanje hipotez, iskanje razpoložljivih virov ali vprašanj človeku), in na lastno pobudo uporablja ta sredstva za dosego cilja. Hkrati mora biti stroj sposoben, da se samostojno razvije od ravni otroka do ravni odrasle osebe in nadalje do superinteligencije.
To tretje področje bi lahko imenovali učna inteligenca na ravni človeka, da bi ga razlikovali od globokega učenja in drugih strojnih tehnologij, ki so danes priljubljene. Po mojem razumevanju bo inteligenca učenja na ravni človeka mogoča s pomočjo čustvene in narativne inteligence.
Kakšne raziskave zdaj počnete? Kako napreduje vaše delo na področju ustvarjanja virtualnih človeških pomočnikov in modeliranja čustvene inteligence?
- Ukvarjamo se z modeliranjem človeške čustvene inteligence z namenom razvoja socialno kompatibilnih virtualnih človeških pomočnikov na podlagi naših modelov.
Upoštevamo široko paleto posebnih nalog in raziskovalnih področij. Na primer, to je ustvarjanje virtualnega partnerja v videoigri; virtualni koordinator ali moderator; virtualni ustvarjalni asistent skladatelja, koreografa, oblikovalca, pomočnika pri reševanju problema vpogleda; virtualni poslušalec (v prihodnosti - virtualni sogovornik); kot tudi virtualnega hišnega ljubljenčka, ki je po svojih socialnih in čustvenih značilnostih primerljiv z resničnim.
Rezultate je težko predstaviti podrobno tukaj, vendar jih je mogoče najti v naših odprtih publikacijah. Za vse širine naših poskusov in uspehov potrebujemo preboj v eno smer: pri dokazovanju praktične vrednosti splošnega modela človeške čustvene inteligence, utelešenega v intelektualnem agentu.
Pred kratkim je bil naš laboratorij BICA na oddelku za kibernetiko na NRNU MEPhI obogaten z novimi raziskovalnimi metodami, vključno z eksperimentalno platformo, ki temelji na navidezni in mešani resničnosti (s sledenjem smeri oči subjekta), pa tudi z elektromiografijo in avtomatsko analizo obraznih izrazov, ki nam omogočajo, da registriramo čustva subjektov, potopljenih v navidezna okolja. Večino našega dela zdaj opravljamo s pomočjo teh tehnologij. V nekaterih poskusih se uporabljata tudi EEG in fMRI.
Promocijski video:
Naš neposredni splošni cilj je izboljšati in empirično potrditi socialno-čustveno kognitivno arhitekturo Ebica (eBICA) in na njej ustvariti učinkovite demonstracije. To delo se izvaja na NRNU MEPhI s finančno podporo Ruske znanstvene fundacije št. 18-11-00336.
Pred kratkim je zagonski Neuralink Elon Musk objavil dogajanje, s katerim bi človek v prihodnosti lahko postal kiborg, ki je sposoben nadzirati računalnik z močjo misli. Kako obetavna je za vas ta raziskovalna linija?
- Po mojem razumevanju naj bi umetna inteligenca postala na eni strani enakovreden človekov partner in na drugi strani podaljšek običajnih ali nadomestitev izgubljenih človeških zmožnosti, vključno s sredstvi, ki temeljijo na neposrednem vmesniku s človeškimi možgani.
V tem primeru bi človek lahko dobesedno uporabljal računalnik ali mikročip kot del svojih možganov. Oba sta usmerjena v dobro in ga mora v celoti nadzorovati njegov ustvarjalec. Želim si uspeha Elonu Musku.
Kako velika je potreba po razvoju sredstev za boj proti umetni inteligenci?
- Mislim, da bodo orodja za umetno inteligenco v našem obdobju ostala pod nadzorom človeka, pa čeprav zaradi človekove odvisnosti od njihove storitve in jim zagotavljajo vse, kar potrebujejo. Če jih lahko kdo obrne proti osebi, potem samo oseba sama. Potem je treba razmisliti o vprašanju soočanja s temi ljudmi.
Ni skrivnost, da vojska najprej potrebuje umetno inteligenco. Danes se tako kot prej ustvarjajo nova sredstva za napad in obrambo. Toda posebnost našega časa je, da oboje vključuje umetno inteligenco. V tem smislu je potreba po razvijanju spopadov velika, za nekatere države pa je to prednostna naloga s finančnega vidika.
Kaj nas čaka po ustvarjanju umetne inteligence, boljše od človeške? Bomo sobivali s stroji ali se bomo združili v kakšno enotno celoto?
- Umetna inteligenca bo postala in že postaja sestavni del človeške civilizacije. Hkrati sta še vedno možna dva načina: podedovanje naših vrednot, stremljenj in idealov z umetno inteligenco ali njihova nadomestitev z "strojskimi vrednostmi", ki sega ne le na stroje, ampak tudi na ljudi. Katera od teh dveh poti je uresničena, je odvisno od nas.
Kaj pomeni ostati človek v dobi umetne inteligence?
- Ostati človek v dobi umetne inteligence pomeni uresničiti prvo pot.