Mikhail Burtsev, vodja laboratorija za nevronske sisteme in globoko učenje na moskovskem Inštitutu za fiziko in tehnologijo, govori o tem, ali je mogoče ustvariti polnopravni računalniški analog človeškega uma, in pojasnjuje, zakaj ga znanstveniki razvijajo in kako ga zaščititi pred napadi trolov.
Konec julija so znanstveniki iz MIPT začeli mednarodno tekmovanje za "govorjene" sisteme umetne inteligence, ki lahko posnemajo živega človeka, in povabili vse, ki so želeli komunicirati z njimi in oceniti nastale dialoge. Znanstveniki s pomočjo prostovoljcev upajo, da bodo v naslednjih treh letih ustvarili glasovnega asistenta, ki bo z osebo lahko komuniciral skoraj tako dobro kot živ sogovornik.
Tekmovanje so soorganizirali znanstveniki z univerz v Montrealu, McGillu in Carnegie Mellon. Na preizkusu dialoških sistemov lahko sodelujete po povezavi.
Dejansko teh idej danes niso izumili - sodobni glasovni pomočniki Googla, Applea, Amazona in drugih IT-podjetij so zakoreninjeni v globoki preteklosti, na samem začetku računalniške dobe. Prvi takšen govorni stroj, imenovan ELIZA, je bil ustvarjen leta 1966 in je bil v resnici šala, parodija na psihoterapevta, ki je pacientu neuporabno svetoval.
V naslednjih letih in desetletjih so programerji ustvarjali vedno bolj zapletene in "žive" sisteme za komunikacijo z računalnikom. Najnaprednejši od teh sistemov lahko prepozna razpoloženje lastnika, se spomni njegovih starih želja in preferenc ter mu reši nekatere rutinske in gospodinjske naloge, naroči hrano ali blago v trgovini ali igra vlogo operaterja v klicnih centrih.
Mihail, od ustanovitve ELIZA je minilo skoraj 50 let. Kaj se je na splošno spremenilo v tem času in lahko načeloma pričakuje, da bodo znanstveniki v prihodnosti lahko ustvarili tak sistem, ki ga ljudje ne bodo mogli ločiti od živega sogovornika?
- Mislim, da bo v bližnji prihodnosti mogoče ustvariti govorno obveščevalno tehnologijo, ki bo stroju omogočila, da se približa ravni človeškega dialoga. To nalogo delamo v okviru projekta iPavlov, ki je del Nacionalne tehnološke pobude.
Uporabniku mora biti tako udobno komuniciranje z avtomatskim sistemom dialoga kot z živo osebo. To bo omogočilo ustvarjanje informacijskih sistemov, ki bodo bolje razumeli, kaj človek od njih želi, in se nanj odzivali v naravnem jeziku.
Promocijski video:
Pogovorno inteligenco lahko uporabimo za avtomatizacijo številnih glasovnih in besedilnih vmesnikov, vključno z messengerji, kot je Telegram. Kot kažejo statistični podatki, se danes glasniki uporabljajo bolj aktivno kot družbena omrežja, po kanalih za besedilno komunikacijo pa prehaja zelo veliko informacij.
Primerno jih je na primer uporabljati v prometu, dodajanje interaktivnega asistenta - klepetalnice - pa bo uporabnikom omogočilo ne samo medsebojno komunikacijo, temveč tudi prejemanje potrebnih informacij, nakupe in marsikaj drugega. To bo privedlo do dejstva, da bodo neposredni selniki in glasovni pomočniki postopoma nadomeščali običajne spletne strani in aplikacije ter igrali vlogo spletnih svetovalcev in strokovnjakov klicnih centrov.
Ali lahko Rusija glede na prisotnost Apple, Google in Amazon na tem trgu konkurira tukaj? Ali obstaja kakšna specifičnost v ruskem jeziku, ki bi lahko ovirala potencialne konkurente ruskih podjetij in znanstvenikov?
- Seveda je ruski jezik bolj zapleten in nekaterih metod, ki se danes uporabljajo pri razvoju sistemov za dialog in glasovnih pomočnikov v svetu, ni mogoče uporabiti brez dodelave in pomembnih sprememb, ki bi jim omogočile delo z bogatejšo slovnico.
Po drugi strani pa osnovnih algoritmov, ki se uporabljajo pri delu Sirija, Cortane, Googla in drugih digitalnih pomočnikov, nihče ne skriva - na voljo so nam vsaj na ravni raziskav in konceptov. Raziskovalni članki in programska koda so pogosto javno dostopni - načeloma jih je mogoče prilagoditi ruščini.
Mihail Burčev, vodja laboratorija za nevronske sisteme in globoko učenje MIPT
Poleg tega ni veliko poskusov, da bi to izvedli na "industrijski" ravni. Edini večji projekt vodi Yandex, ki razvija asistenta za projekt Alice.
V našem projektu poskušamo ustvariti orodja, ki bi poenostavila in pospešila ustvarjanje takšnih "industrijskih" dialoških sistemov, zasnovanih za različne namene. Toda razvoj univerzalnega glasovnega asistenta, ki je sposoben rešiti kateri koli problem, je izjemno težka naloga tudi za velika podjetja.
Po drugi strani je avtomatiziranje malega podjetja, ki bo uporabljalo specializiran sistem za dialog, veliko lažje izvesti. Upamo, da bodo orodja, ki jih bomo ustvarili, podjetnikom in programerjem pomagala rešiti tovrstne težave dovolj hitro, ne da bi imeli poglobljeno znanje in ne da bi se za to zelo trudili.
Mnogi znanstveniki, kot sta Roger Penrose ali Stuart Hameroff, menijo, da je človeški um kvantne narave in je načeloma nemogoče zgraditi analogni stroj. Se strinjate z njimi ali ne?
- Po mojem mnenju, če pogledamo, kaj danes vemo o strukturi možganov in naravi človeške zavesti, se zaenkrat ne soočamo s temeljnimi ovirami za reprodukcijo njegovega dela z računalnikom.
Penrose in Hameroff imata vrsto hipotez, za katere menita, da pojasnjujejo, zakaj tega ni mogoče storiti. Zaenkrat nevrofiziologi niso našli nobenega eksperimentalnega dokaza, da so te hipoteze pravilne, naša trenutna baza znanja pa govori v prid nasprotno.
Druga stvar je, da časovni okvir, kdaj bo tak stroj ustvarjen, še vedno ni popolnoma opredeljen. Zdi se mi, da se to lahko zgodi v vsaj 50 ali celo 100 letih.
Ali bodo za to potrebne povsem nove tehnologije in računalniki, ki so po načelih delovanja bližje nevronom kot digitalni logiki?
- Če verjamemo, da človeška inteligenca temelji na neki obliki računanja, potem lahko kateri koli univerzalni računalniški sistem, enakovreden Turingovemu stroju, teoretično posnema delo človeških možganov.
Druga stvar je, da lahko ta stroj deluje zelo počasi, zaradi česar bo s praktičnega vidika neuporaben. Danes je težko uganiti, katere tehnologije za izdelavo računalnikov bomo tukaj potrebovali.
Katere druge naloge lahko rešijo digitalni pomočniki poleg tega, kar počnejo danes? Ali jih je mogoče uporabiti za razvozlavanje besedil v mrtvih jezikih ali šifriranja, kot je Voynichov rokopis?
- Trenutno, kolikor vem, še nihče ni poskušal uporabljati nevronskih mrež za odkrivanje skrivnosti mrtvih jezikov in dešifriranje besedil, vendar se mi zdi, da bo nekdo to poskušal narediti v bližnji prihodnosti. Nas pa takšne stvari še niso zanimale.
"Pomočnik" je pravzaprav zelo širok pojem, ki lahko vključuje veliko zelo različnih stvari. Če vzamemo na primer isto ELIZO, virtualno "psihoterapevtko", se postavi vprašanje: ali je asistentka ali ne?
Pogovorne sisteme lahko uporabimo ne le za reševanje praktičnih problemov, temveč tudi za zabavo ljudi ali ohranjanje njihovega razpoloženja. Vprašanje tukaj je pravzaprav, kaj mislimo pod pojmom osebni asistent in kako širok ali ozek je. V najširšem smislu lahko takšni sistemi rešujejo vsa vprašanja, povezana s komunikacijo, čeprav z različnim uspehom.
Pogovorni vmesniki se poleg neposredne komunikacije z ljudmi lahko uporabljajo tudi za poučevanje strojev, da hitro najdejo skupni jezik in prenašajo informacije iz enega sistema v drugega.
To bo zaobšlo problem vzpostavljanja povezav in prenosa podatkov med obstoječimi in ustvarjenimi storitvami, saj jim za medsebojno komunikacijo ne bo treba poznati specifikacij API. Lahko si bodo izmenjevali podatke z uporabo naravnih jezikov ali lastnega umetnega jezika, ki si ga bodo za take namene izmislili stroji ali ljudje.
Grobo rečeno, tudi sistemi, ki si med seboj "ne poznajo", se bodo lahko dogovorili z uporabo skupnega komunikacijskega jezika zanje in ne določenih pravil za izmenjavo informacij. Če jim kaj ni jasno, se lahko med seboj sprašujejo o neznanih stvareh, zaradi česar bo celotna infrastruktura za zagotavljanje storitev in storitev na internetu neverjetno prilagodljiva in ji bo omogočila hitro integracijo novih storitev brez pomoči ljudi.
V zvezi s tem se postavlja vprašanje - kdo naj bo odgovoren za priporočila "psihoterapevta" ELIZA, računalniške zdravnike in druge glasovne asistente, katerih nasveti lahko močno vplivajo na počutje in zdravje človeka?
- To je zelo težko vprašanje, saj danes ni jasnih meril, ki bi nam pomagala razumeti, kako ravnati v takih primerih. Številne internetne storitve in storitve, ki uporabnikom izdajajo priporočila, začnejo delovati šele, ko se uporabnik strinja s pogoji storitve in posledicami, ki lahko nastanejo kot rezultat dela z njo.
Zdi se mi, da bi lahko delo klepetalnic in glasovnih pomočnikov - vsaj v zgodnji fazi njihovega obstoja - urejali na podoben način. Če na primer bot preprosto išče in analizira informacije, pri čemer deluje na enak način kot iskalnik, lahko zanj veljajo ista pravila. V primeru, da bo dal zdravniški ali pravni nasvet, mora biti oblika odgovornosti drugačna.
Takšni sistemi bi morali na primer uporabnika jasno obvestiti o posledicah izbire med umetno inteligenco in običajnim zdravnikom. Oseba bo imela na izbiro - zaupati zdravniku, ki se bo na primer v 10% motil, ali pa v 3% primerov staviti na aparat, ki daje napačen odgovor. V prvem primeru bo za napako odgovoren zdravnik, v drugem pa uporabnik sam.
Microsoft je lani lansiral chatbot Tay. AI, ki pa ga je moral dobesedno dan pozneje izklopiti, ker so uporabniki interneta iz "najstnice" spremenili pravega rasista. Ali je mogoče takšne sisteme dialoga zaščititi pred troli in navihanci?
- Zdi se mi, da se lahko zaščitite, a ali se to splača narediti, je odvisno od namena sistema. Jasno je, da če sistem ne sme dajati nobenih posebnih pripomb - nesramnih ali ekstremističnih, lahko filtriramo njegove odzive. To filtriranje se lahko zgodi bodisi v fazi usposabljanja sistema bodisi že med generiranjem odgovorov.
Mimogrede, podobno nalogo ocenjevanja kakovosti dialoga so ekipe rešile v okviru znanstvenega šolskega hackathona DeepHack Turing, ki je pred nekaj tedni potekal na MIPT. Njeni udeleženci so razvili algoritme, ki bi lahko na podlagi namigov v dialogu napovedali, kakšno oceno bo oseba dala sistemu dialoga.
Naslednji korak v razvoju tega pristopa je ustvarjanje programa, ki bi ocenil sprejemljivost besednih zvez ali zanesljivost virov, uporabljenih pri ustvarjanju odgovorov na uporabniška vprašanja. Zdi se mi, da bi to pomagalo rešiti ta problem.