MIT čip Je Zmanjšal Porabo Energije Nevronske Mreže Za 95% - Alternativni Pogled

MIT čip Je Zmanjšal Porabo Energije Nevronske Mreže Za 95% - Alternativni Pogled
MIT čip Je Zmanjšal Porabo Energije Nevronske Mreže Za 95% - Alternativni Pogled

Video: MIT čip Je Zmanjšal Porabo Energije Nevronske Mreže Za 95% - Alternativni Pogled

Video: MIT čip Je Zmanjšal Porabo Energije Nevronske Mreže Za 95% - Alternativni Pogled
Video: cip tele com 2024, Marec
Anonim

Nevronske mreže so močne stvari, vendar zelo glasne. Inženirji s tehnološkega inštituta v Massachusettsu (MIT) so uspeli razviti nov čip, ki porabo energije nevronskega omrežja zmanjša za 95%, kar bi jim v teoriji lahko omogočilo delo tudi na mobilnih napravah z baterijami. Pametni telefoni so v teh dneh vse pametnejši in pametnejši, saj ponujajo več storitev z AI, kot so virtualni pomočniki in prevodi v realnem času. Običajno nevronska omrežja obdelajo podatke za te storitve v oblaku, pametni telefoni pa podatke prenašajo samo naprej in nazaj.

To ni idealno, ker zahteva debel komunikacijski kanal in predvideva, da se občutljivi podatki prenašajo in shranjujejo zunaj dosega uporabnika. Vendar ogromne količine energije, ki je potrebna za napajanje nevronskih omrežij, ki jih poganjajo GPU, ni mogoče zagotoviti v napravi, ki jo napaja majhna baterija.

Inženirji MIT so razvili čip, ki lahko to porabo energije zmanjša za 95%. Čip drastično zmanjša potrebo po prenosu podatkov naprej in nazaj med čip pomnilnik in procesorje.

Nevronske mreže tvorijo tisoče medsebojno povezanih umetnih nevronov, razporejenih v plasteh. Vsak nevron prejme vhod iz več nevronov v spodnji plasti in če kombinirani vhod prestopi določen prag, rezultat prenese na več nevronov zgoraj. Moč povezave med nevroni je določena s težo, ki se vzpostavi med trenažnim procesom.

To pomeni, da mora čip za vsak nevron izvleči vhod za določeno povezavo in težo povezave iz pomnilnika, jih pomnožiti, shraniti rezultat in nato ponoviti postopek za vsak vhod. Tu in tam potuje veliko podatkov in zapravi se veliko energije.

Novi čip MIT to odpravlja tako, da vzporedno izračuna vse vhode v pomnilniku z analognim vezjem. To znatno zmanjša količino podatkov, ki jo je treba prehiteti in ima za posledico znatne prihranke energije.

Ta pristop zahteva, da je teža povezav binarna, ne pa obseg, vendar je prejšnje teoretično delo pokazalo, da to ne bo močno vplivalo na natančnost, znanstveniki pa so ugotovili, da se rezultati čipa razlikujejo za 2-3% od običajne različice nevronske mreže, ki deluje na običajnem računalniku.

To niso prvič, da so znanstveniki ustvarili čipe, ki obdelujejo procese v pomnilniku in tako zmanjšajo porabo energije nevronske mreže, vendar je to prvič, da so ta pristop uporabili za delovanje močne nevronske mreže, znane po obdelavi slike.

Promocijski video:

"Rezultati kažejo impresivne specifikacije za energetsko učinkovito izvajanje valjanih operacij znotraj pomnilniškega sklopa," je dejal Dario Gil, podpredsednik umetne inteligence pri IBM-u.

"To zagotovo odpira možnosti za uporabo bolj naprednih konvolucijskih nevronskih mrež za razvrščanje slik in videoposnetkov na internetu stvari v prihodnosti."

In to je zanimivo ne samo za skupine za raziskave in razvoj. Želja po postavitvi AI na naprave, kot so pametni telefoni, gospodinjski aparati in vse vrste naprav IoT, mnoge v Silicijevi dolini potiska k čipom z majhno porabo.

Apple je svoj Neural Engine že vgradil v iPhone X za napajanje, na primer tehnologije za prepoznavanje obraza, Amazon pa naj bi razvijal lastne AI čipe za naslednjo generacijo digitalnih pomočnikov Echo.

Velika podjetja in izdelovalci čipov se tudi vedno bolj zanašajo na strojno učenje, kar jih sili, da bodo njihove naprave še bolj energetsko učinkovite. V začetku tega leta je ARM predstavil dva nova čipa: procesor Arm Machine Learning, ki obravnava splošne naloge AI od prevajanja do prepoznavanja obraza, in procesor za zaznavanje objektov Arm, ki na primer zazna obraze v slikah.

Najnovejši mobilni čip Qualcomma, Snapdragon 845, ima GPU in je močno AI. Podjetje je predstavilo tudi Snapdragon 820E, ki naj bi deloval v brezpilotnih vozilih, robotih in industrijskih napravah.

V prihodnosti IBM in Intel razvijata nevromorfne čipe z arhitekturo, ki jih navdihujejo človeški možgani in neverjetno energijsko učinkovitost. To bi teoretično lahko omogočilo TrueNorthu (IBM) in Loihiju (Intel), da izvajata močno strojno učenje z le delčkom moči običajnih čipov, vendar so ti projekti še vedno zelo eksperimentalni.

Zelo težko bo prisiliti čipe, ki dajejo življenje nevronskim mrežam, da prihranijo energijo baterije. Toda v trenutnem tempu inovacij se zdi to zelo težko izvedljivo.

Ilya Khel