Skoraj vse, kar danes slišite o umetni inteligenci, izhaja iz globokega učenja. Ta kategorija algoritmov deluje s statistiko, da bi našla vzorce v podatkih, in se izkazala za izjemno zmogljivo pri posnemanju človeških veščin, kot je naša sposobnost videti in slišati. V zelo ozkem obsegu lahko celo posnema našo sposobnost razuma. Ti algoritmi podpirajo iskanje Google, Facebook Newsfeed, priporočila Netflix in oblikujejo panoge, kot sta zdravstveno varstvo in izobraževanje.
Kako se razvija globoko učenje
Kljub dejstvu, da je globoko učenje praktično samostojno v javnost umetno inteligenco, predstavlja le majhen utrip zgodovinske naloge človeštva za reprodukcijo lastne inteligence. V ospredju tega iskanja je že manj kot desetletje. Če odložimo celotno zgodovino tega področja, je enostavno razumeti, da se kmalu lahko tudi odpravi.
Nenadni vzponi in padci različnih metod so že dolgo značilni raziskavi AI, je dejal. Vsako desetletje obstaja intenzivna konkurenca med različnimi idejami. Nato se občasno stikalo zaskoči in celotna skupnost začne delati eno stvar.
Naši kolegi iz MIT Technology Review so želeli predstaviti te težave in začetke. V ta namen so se obrnili na eno največjih zbirk odprtih znanstvenih člankov, imenovano arXiv. Prenesli so odlomke iz skupno 16.625 člankov, ki so bili na voljo v oddelku AI do 18. novembra 2018, in izsledili besede, omenjene v preteklih letih, da bi videli, kako se je polje razvijalo.
Skozi njihovo analizo so se pojavili trije glavni trendi: premik k strojnemu učenju v poznih 90-ih in zgodnjih 2000-ih, porast priljubljenosti nevronskih mrež, ki se je začel v začetku leta 2010, in porast okrepljenega učenja v zadnjih nekaj letih.
Promocijski video:
Najprej nekaj opozorila. Prvič, odsek arXiv z AI sega v leto 1993, izraz "umetna inteligenca" pa sega v petdeseta leta prejšnjega stoletja, zato sama baza podatkov predstavlja le zadnja poglavja zgodovine tega polja. Drugič, dokumenti, ki se vsako leto dodajo v bazo, predstavljajo le del dela, ki se trenutno izvaja na tem področju. Vendar pa arXiv ponuja odličen vir za prepoznavanje nekaterih glavnih razvojnih trendov in za ogled vlačilcev med različnimi ideološkimi taborišči.
Paradigma strojnega učenja
Največji premik, ki so ga ugotovili raziskovalci, je bil odmik od sistemov, ki temeljijo na znanju, v zgodnjih 2000-ih. Takšni računalniški sistemi temeljijo na ideji, da je možno kodirati vse človeško znanje v sistemu pravil. Namesto tega so se znanstveniki obrnili na strojno učenje, nadrejeno kategorijo algoritmov, ki vključujejo globoko učenje.
Med 100 omenjenimi besedami so se najbolj zmanjšale tiste, povezane s sistemi na znanju - "logika", "omejitve" in "pravilo". Najbolj so zrasle tiste, povezane s strojnim učenjem - "podatki", "omrežje", "zmogljivost".
Razlog za to spremembo vremena je zelo preprost. V 80. letih so sistemi, ki temeljijo na znanju, vedno bolj priljubljeni med oboževalci, zahvaljujoč navdušenju nad ambicioznimi projekti, ki so poskušali ponovno ustvariti zdrav razum v strojih. Ko pa so se ti projekti razvili, so se raziskovalci znašli pred velikim izzivom: preveč sistemov je bilo treba kodirati, da bi sistem lahko naredil kaj koristnega. To je povzročilo večje stroške in znatno upočasnilo tekoče procese.
Odgovor na to težavo je strojno učenje. Ta pristop namesto da od ljudi zahteva, da ročno kodirajo več sto tisoč pravil, avtomatsko izvlečejo ta pravila iz kupa podatkov. Prav tako se je to področje oddaljilo od sistemov, ki temeljijo na znanju, in se usmerilo v izboljšanje strojnega učenja.
Razcvet nevronskih mrež
V novi paradigmi strojnega učenja se prehod na globoko učenje ni zgodil čez noč. Namesto tega je analiza ključnih izrazov pokazala, da so znanstveniki poleg nevronskih mrež, glavnih mehanizmov globokega učenja, preizkusili še številne metode. Druge priljubljene metode so vključevale Bayesove mreže, podporne vektorske stroje in evolucijske algoritme, ki uporabljajo različne pristope k iskanju vzorcev podatkov.
V 90. in 2000 letih je bila med temi metodami močna konkurenca. Nato je leta 2012 dramatičen preboj pripeljal do še ene spremembe vremena. Med letnim tekmovanjem ImageNet za pospešitev napredka v računalniškem vidu je raziskovalec Jeffrey Hinton skupaj s kolegi z univerze v Torontu dosegel najboljšo natančnost prepoznavanja slike s stopnjo napake nekaj več kot 10%.
Tehnika globokega učenja, ki jo je uporabil, je sprožila nov val raziskav, najprej v skupnosti za vizualizacijo in nato še naprej. Ko ga je vse več znanstvenikov začelo uporabljati za doseganje impresivnih rezultatov, je priljubljenost te tehnike, skupaj s priljubljenostjo nevronskih mrež, naraščala.
Rast učenja okrepitve
Analiza je pokazala, da je nekaj let po razcvetu globokega učenja prišlo do tretjega in zadnjega premika v raziskavah AI.
Poleg različnih metod strojnega učenja obstajajo tri različne vrste: nadzorovano učenje, nenadzorovano učenje in okrepljeno učenje. Nadzorovano učenje, ki vključuje podajanje označenih podatkov v stroj, se najpogosteje uporablja in ima danes tudi najbolj praktične aplikacije. Vendar je v zadnjih nekaj letih okrepljeno učenje, ki posnema proces učenja živali s korenčkom in palicami, kaznovanji in nagradami, privedlo do hitrega povečanja referenc v delih.
Ideja sama po sebi ni nova, vendar že desetletja ne deluje. "Nadzorovani učitelji so se smejali okrepljenim učencem," pravi Domingos. Toda, tako kot pri globokem učenju, je tudi ena prelomnica nenadoma postavila metodo na plan.
Ta trenutek je nastopil oktobra 2015, ko je DeepMind's AlphaGo, treniran z okrepitvijo, premagal svetovnega prvaka v starodavni igri go. Vpliv na raziskovalno skupnost je bil takojšen.
Naslednjih deset let
Pregled tehnologije MIT ponuja samo najnovejši posnetek konkurence med idejami, ki so značilne za raziskave AI. Vendar pa prikazuje nedoslednost prizadevanja za podvajanje inteligence. "Pomembno je razumeti, da nihče ne ve, kako rešiti to težavo," pravi Domingos.
Mnoge metode, ki se uporabljajo že 25 let, so se pojavile približno v istem času v petdesetih letih prejšnjega stoletja in se niso spoprijele z izzivi in uspehi vsakega desetletja. Nevronske mreže so na primer dosegle svoj vrhunec v 60. in rahlo v 80. letih, a so skoraj poglobile, preden so po zaslugi globokega učenja ponovno pridobile svojo priljubljenost.
Vsako desetletje, z drugimi besedami, je prevladalo drugačno tehniko: nevronske mreže v poznih 50. in 60. letih, različni simbolični poskusi v 70. letih, na znanju temelječi sistemi v 80. letih, bajezijske mreže v 90. letih, referenčni vektorji v nič in nevronske mreže spet v 2010-ih.
Domingos pravi, da leta 2020 ne bodo nič drugačne. To pomeni, da bo morda doba globokega učenja kmalu konec. Toda kaj se bo zgodilo naprej - stara tehnika v novi slavi ali povsem nova paradigma - to je tema ostre polemike v skupnosti.
Ilya Khel