"Vzpon strojev", "Terminator se vrne" … Veliko znanstvene fantastike je zgrajeno na tem, da računalniki postajajo tako pametni, da razumejo, da jim bo bolje brez osebe. Pravljice? Kako videti. Do leta 2050 bo običajni domači računalnik lahko obdelal toliko informacij, kot jih imajo vsi ljudje na zemlji.
Toda leto 2050 je pod pogojem, da se bodo stroji razvijali postopoma. Ne deluje tako. Naš odnos z elektronskim svetom napreduje v preskokih. Enkrat - miška je bila pritrjena na avto. Enkrat - pojavil se je internet. Nekoč - obstajali so pametni telefoni s tablicami.
Naslednji preboj prihaja, ko računalnik lahko razume ljudi. Pametni telefoni že imajo aplikacije, kot sta Siri in Cortana, s katerimi se lahko preprosto pogovarjamo. Toda težava je v tem, da računalnik razume, ne kaj rečemo, ampak kaj mislimo! Najenostavnejši primer: stavek "Zapustil me je", ki ga je povedala solzirana ženska in moški šef ima povsem drugačne pomene.
Torej: takoj ko se stroji naučijo prepoznati nianse človeškega govora, se bodo na eni strani naše roke razvezale v dobesednem in figurativnem smislu. Govoril sem z računalnikom in vse je naredil. Po drugi strani pa se ne približujemo nevarni črti in odstranimo zadnjo oviro v komunikaciji med ljudmi in brezdušnim železom?
Dolgo sem hotel govoriti o tem z znanim znanstvenikom, direktorjem jezikovnih raziskav ABBYY, vodjo oddelkov za računalniško jezikoslovje na Ruski državni univerzi za humanistične študije in Moskovskega inštituta za fiziko in tehnologijo Vladimirja Selegeya. Ko pa sem mu povedal svoje apokaliptične strahove, se je namrščil.
Da, znanstvena fantastika je polna temačnih napovedi o tem, kako bodo stroji, usposobljeni za ljudi, brez nje. Ni pa mi jasno, zakaj bo povečanje količine znanja, vgrajenega v programe, spodbudilo računalnik k odločanju, ne da bi ga kdo vprašal za dovoljenje?
Pravzaprav težava ni v tem, da se bo računalnik naučil delati brez ljudi, temveč v tem, da bodo ljudje pri reševanju določenih težav želeli brez sebe. Tu je Černobil …
Promocijski video:
In kaj ima Černobil s tem?
- Jedrski reaktor je zelo zapleten fizični model. Zdi se, da so vsi regulacijski parametri reaktorja znani, vse je v skladu s strogimi fizikalnimi zakoni in odločanje je mogoče popolnoma zaupati računalniku. Ampak…
Leta 1986, teden dni po nesreči, sem se udeležil seminarja o uporabi umetne inteligence v industriji. Že takrat je bilo jasno, da z zaupanjem odločanja v računalnik tvegamo. V programih je običajno, da vsebujejo napake. Tudi sateliti imajo programske napake.
Se pravi, da je človek bolj zanesljiv kot računalnik, čeprav "razmišlja" veliko hitreje?
- Človek ima poleg vsega drugega motivacijo. Svoje težave rešuje - izobraževanje, rekreacija, kariera, zna se počutiti …
Toda ali lahko kakšen zvit programer napiše program, ki bi ga naučil agresivnega stroja …
- Poskusite lahko na primer narediti vojaškega robota, ki bo sam odločal in analiziral, kaj vidi in sliši. In bo zelo nevarno. A ne, ker bo robot nenadoma imel željo po uničenju, kot so zapisali pisci znanstvene fantastike. A ker je napaka programerja, zanemarjanje nekaterih dejavnikov lahko privede do nepredvidljivega vedenja robota.
Toda do zdaj smo zelo daleč od možnosti ustvarjanja programov za samostojno učenje, ki so sposobni ustvariti povsem novo znanje. Grobo rečeno, samostojno premaknite se iz tabele množenja na sposobnost reševanja zapletenih enačb.
V drugi polovici dvajsetega stoletja so bila futuristična predvidevanja v znanosti zelo priljubljena. Vse o inteligenci računalnika je šlo v mleko. Nihče ni napovedal interneta, neverjetne svobode dostopa do informacij, mobilnih telefonov. Toda vsi so govorili o razmišljajočih računalnikih.
Na primer, konec 60. let je naš prvi šahovski sistem KAISA uspešno nastopil na svetovnem prvenstvu med računalniki. Veljalo je, da je treba za to, da stroj premaga človeka, simulirati algoritme človeške igre. Položiti um, intelekt, zelo skrivnostno intuicijo, zaradi katere šahist sprejema prave odločitve.
Danes računalnik pretepa človeka. Toda intuicije ga nikoli niso naučili. Milijarda odigranih iger, vsa izkušnja z igro, vse odločitve, ki so jih kdaj sprejeli šahisti, so se mu vtisnili v spomin. In naučili so jih, da to uporabljajo pri izbiri optimalnega načrta igre, in jim zagotovili ogromno hitrost naštevanja in ocenjevanja možnosti. Računalnik premaga svetovne prvake, a od tega ne dobi nobenega užitka. Vse je popolnoma drugače od ljudi.
Ampak ste eden tistih, ki računalnik samo uči, da se "vklopi po glavi"
- Programe poskušamo naučiti samo razumeti besedila, da lahko iz njih črpajo informacije, jih kopičijo in posplošujejo. Tako ljudje dobivajo filtrirano znanje, izbrano iz milijard virov. To je zelo težko, saj človek sam ne ve dobro, kako je urejena njegova jezikovna sposobnost, na kateri temelji njegovo razumevanje drugih ljudi.
Statistični strojni prevod je zdaj priljubljen. Računalnik sploh ne razume, za kaj gre prevedeno besedilo, le ve, kako najti najbolj verjetne različice prevajanja majhnih fragmentov (z nekaj besedami) in analizirati ogromne količine človeških prevodov, shranjenih v njegovem spominu. Na splošno je besedilo jasno. Vendar bi bilo neresno sprejeti odgovorno odločitev na podlagi takega prevoda.
Ok, lahko računalnik prevede moja navodila?
- Navodila? Ali je nevarno.
- Da v preprost hladilnik!
- Tudi do hladilnika! Rad bi, da se naši programi prevajajo, poskušajo razumeti besedilo, izbirajo med možnostmi, ki temeljijo na znanju, in ne samo zato, ker se to dopisovanje najpogosteje nahaja v naši podatkovni bazi.
V redu, recimo, da ste težavo rešili in ustvarili sistem, s pomočjo katerega se bodo računalniki naučili razumeti nianse našega govora in ga celo natančno prevedli v drug jezik. In potem nova nevarnost ogroža ljudi - ne bo treba razmišljati. Ne bo treba trenirati spomina, možganov. Potrebujete informacije - prosim, Wikipedija. Morate govoriti s tujcem - prevajalcem …
- Višja kot je raven inteligence in znanja človeka, bolj uporaben je zanj naslednji "pametni asistent". In čim nižje je več možnosti, da sploh ne razmišljajo. Računalniške tehnologije vodijo v polarizacijo družbe. Grobo rečeno, pojav kalkulatorja ni povzročil degeneracije matematikov. A pri nekaterih šolarjih je očitno prišlo do zmanjšanja že tako nizke ravni sposobnosti.
- Veste, zame je resen pokazatelj padca stopnje izobrazbe število ljudi, ki pišejo nepismeno ali ne znajo izraziti svojih misli in občutkov brez uporabe mate
- Ja, ljudje so začeli pisati manj kompetentno. Preprosto zato, ker je na splošno manj branja urejenih besedil in veliko več takih virov, kjer je črkovanje zelo zamegljeno. Je to ljudi postalo neumnejše? Verjetno ne.
Ali vidite povezavo med dejstvom, da človek nepismeno izraža misli v domačem jeziku, in dejstvom, da je postal neumen?
Ne bi šel tako daleč. Čeprav je očitno: ker so otroci začeli manj brati, so se s prenosom znanja in kulture med generacijami pojavile nekatere težave. To je problem. Danes vidimo, da sodobni šolar z enako stopnjo ocene kot pred 30 leti literaturo slabše pozna.
Tukaj! …
„… Toda po drugi strani mnogo drugih stvari pozna veliko bolje, za katere nihče ni mislil, da bi jih znali.
Je to naraven proces?
- Da. Še več, prvič v zgodovini človeštva lahko znanje prenašamo ne od starejših do mlajših, kot se to dogaja že stoletja. Prišlo je do prenosa znanja z mlajših na starejše, kar prej sploh ni bilo značilno za človeško kulturo. Otrok uči očeta ali mamo, da dela za računalnikom, z mobilnim telefonom, je staršem vir različnih znanj. In še več otrok potuje po svetu. Zelo pogosto so vir geografskega in kulturnega znanja.
Poslušaj, tukaj pa se je vse začelo z računalniki. Osvobodili so ljudi celo potrebe po pomnjenju elementarnih pravil slovnice
- Ravno v začetku 90-ih sem delal v skupini, ki je razvila enega prvih sistemov preverjanja črkovanja za ruski jezik. Je bilo to koristno ali škodljivo? Zelo koristno z mojega vidika. Ta sistem omogoča hitrejše ustvarjanje dokumentov. In potem je vse odvisno od stopnje odgovornosti osebe. Kdo je rekel, da po avtu sploh ni treba opraviti pregleda? Sistem samo pomaga, da je veliko učinkovitejši.
Toda zaupamo računalniku
- To pomeni samo, da vas oseba, ki je naredila program, ni obvestila, da obstaja veliko pojavov, ki jih stroj ne more preveriti. Na primer pogajanja.
Nove tehnologije, žal, pogosto vodijo do izgube tradicionalnih znanj. V stanovanju sem delal popravila. Hotel sem vgraditi lesena okna, ki so bila nameščena prej. A to se je izkazalo za nemogoče. Vsi nameščajo okna z dvojnim steklom. Ljudje, žal, prenehajo marsikaj početi z rokami. Kaj storiti, tako deluje življenje. Na žalost.
Torej ste konformist?
- Ne. Verjamem, da početje popolnoma škodljivih stvari ni dobro. Ko pa imate tako dobiček kot izgubo, morate oceniti tveganja … Če izdelujete zdravilo, ne mislite, da bodo zaradi njegove uporabe preživeli ne le dobri ljudje, ampak tudi slabi ljudje.
V našem primeru je treba hkrati z razvojem tehnologij vključiti v usposabljanje tistih, ki jih uporabljajo. Negativne posledice novih tehnologij se odražajo predvsem na tistih, ki svoje naloge ne opravljajo dobro na nobeni tehnološki ravni.
Na primer vzemite zdravilo. Zdravniku želimo pomagati pri odločitvi, naredimo računalniški strokovni sistem, ki temelji na analizi velikega števila zanesljivih diagnoz, ki jih postavijo najboljši zdravniki. Profesionalcu daje priložnost, da se obrne na večji obseg znanja, kot ga ima sam. Končna odločitev pa je njegova, ne računalniška! Za slabega zdravnika je vse drugače - zaupal bo tistemu, česar ne more zanesljivo preveriti. Ampak v povprečju se mi s pojavom takšnih tehnologij zdi, da je medicina še vedno boljša, ne slabša.
No, prepričani smo bili, da bo intelektualni sistem razumevanja človeka z računalnikom več koristi kot škode. A kdaj se bo pojavila?
- To je zelo težka naloga, ki je ni mogoče rešiti takoj. Naučiti se je treba računalniškega znanja o jeziku in znanja o svetu, metod sklepanja in primerjave vrednot. Nekaj, kar zdaj vemo, nekaj bo trajalo leta. Na primer, potrebujemo zanesljive podatke o uporabi jezika ob upoštevanju individualnih in družbenih razlik. In te razlike so zelo pomembne. Na primer, naredili smo poseben projekt, namenjen regionalnim razlikam v ruskem jeziku. Zbral slovar, v katerem je skoraj 10 tisoč besed, ki so pravilo za prebivalce le določenih regij naše države
Kdo smo mi?
- To je skupni projekt z naslovom Jeziki ruskih mest, v katerem sodelujejo strokovnjaki ABBYY, jezikoslovci, navdušenci iz različnih delov Rusije in rusko govorečega tujine. Analizirali smo jezik regionalnih medijev, družbenih omrežij, odlokov in odločitev lokalnih oblasti. In to je le majhen del znanja, ki ga je treba naučiti računalniku!
Kaj je bistvena razlika med vašim pristopom k prevajanju in sistemom, ki ga uporablja denimo Google?
- Statistični sistemi ne gradijo jezikovnih struktur. Iščejo prevodna ujemanja za majhne fragmente po 5-7 besed. Toda jezik je tako urejen, da se zelo pogosto sorodne besede nahajajo veliko dlje, in če te povezave ne upoštevamo, se pojavijo napake. Toda zelo pogosto so takšne podrobnosti pomembne pri prevajanju, katerih zanemarjanje lahko popolnoma spremeni pomen. Da bi vse upoštevali, je treba med analizo prepoznati celoten sistem jezikovnih povezav med besedami, čemur pravimo struktura stavka. Koščkov stavkov iz jezika ne prevajamo v jezik, poskušamo identificirati pomensko strukturo stavka in to strukturo sintetizirati s pomočjo drugega jezika.
Vendar se te pomenske strukture ne samo in ne toliko uporabljajo za strojno prevajanje. Potrebni so tudi za učinkovito reševanje problemov inteligentnega iskanja in analize informacij, ki so danes pomembnejši za ABBYY kot komercialno podjetje. Na primer, nedavno izdane prve rešitve za korporativni trg temeljijo na teh tehnologijah: omogočajo vam samo iskanje in analiziranje podatkov v ogromnem toku informacij, ki je shranjen v organizacijah.
In kateri jezik je z vašega stališča težje razumljiv?
- Splošno sprejeto je, da so težji tisti jeziki, v katerih se morate naučiti več pravil. V primeru računalniškega razumevanja pa to ne gre.
Nekaj, kar je za človeka težko, na primer bogat prepihni sistem v ruščini ali litovščini, poenostavi nalogo za računalnikom na določenih stopnjah analize.
Kitajski jezik je na primer zelo težaven, ker v njem ni morfologije in s tem velike nejasnosti, s katerimi se spopada računalnik. Zato je za računalniško analizo kitajskega jezika zelo pomembno uporabiti znanje o svetu, pomembnejše kot na primer pri analizi jezikov z razvito morfologijo.
Uspelo nam je sodelovati z rusko, nemško, angleško, francosko, špansko, kitajsko. Jezikovna analiza je razdeljena na stopnje. Nekatere stopnje imajo specifičnost, težave za en jezik, nekatere za drugega. Toda v bistvu so tehnologije, s katerimi sodelujemo, uporabne za vse jezike.
Po vašem mnenju, kdaj bo prišel dan, ko bomo lahko vzporedno z našim pogovorom prejeli hiter in razumljiv prevod na računalnik. Recimo, da se zdaj pogovarjamo in takoj dobimo prepis našega pogovora v španščini?
- To bo mogoče kmalu. Čez dve leti tega ne mislim. Toda … Kaj je potrebno za rešitev tega problema? Izboljšati moramo svoje sisteme za analizo govora. Spontanega pogovora še ne moremo, ločimo od hrupa in dobimo želeno besedilo. In v tej smeri je vsako leto napredek.
Vendar bodo vseeno takšne stvari, ki jih stroj ne more razlagati nedvoumno. In tu bo natančnost razumevanja in prevajanja odvisna od razpoložljivosti sistema znanja o svetu, od mehanizmov logičnega sklepanja.
Vsekakor pa bo nevarnost popolnega zaupanja v takšen program ostala. Napačno je misliti, da lahko recimo čez pet let pismo narekujete računalniku, ta ga bo prevedel, poslal poslovnemu partnerju in vse bo v redu. Nihče ne jamči, da stroj nekje ne bo zgrešil "ne" ali naredil drugih napak, po katerih se lahko vaš poslovni odnos šteje za dokončen.
Se pravi, da mora biti oseba kot nadzornik še vedno?
- Zagotovo. Zaupno zaupati tehnologiji je nevarno.