Mobiiltelefonide, turvaseire, autode ja liitreaalsuse / virtuaalse reaalsuse (AR / VR) valdkondades hõlmavad igat tüüpi arendatavad või kavandatavad manustatud rakendused närvivõrke ja närvivõrgu rakendused plahvatavad. Närvivõrkude innovatsiooni valdkond on erakordne, selle enda arhitektuuri ajakohastatakse pidevalt ning lõputult tekivad ka uued võrgud, uued rakendused ja turud. Närvivõrgu rakenduste süvenemise ja keerukusega suurenevad nõuded arvutuste jõudlusele iga päevaga. Vähem kui 4 aastaga on MAC / kaadri arvutamise nõuded kasvanud umbes 16 korda (vt joonis 1).
Joonis 1 MAC / raami arvutamise nõuete kasv
Närvivõrkude arenguga kasvab jätkuvalt nõudlus seadmetesse protsessorite kinnistamise (mitte protsessorite ja GPU-de kasutamise) järele. Võrgu töötlemisvõimsus ja töökiirus pole aga närvivõrgu rakenduste arengunõuetega sammu pidanud. See konflikt on eriti ilmne nägemisrakenduste valdkonnas. Siiani saab närvivõrgu rakenduste vajaduste rahuldamine tugineda ainult traditsiooniliste andmekeskuste ressurssidele. Kuid kuna turvalisus ja latentsus muutuvad olulisteks kaalutlusteks, on neuronivõrkude juurutamine manustatud süsteemide kaudu reaalajas andmetöötluseks üha tavalisem. Ehkki enamikku närvivõrgu koolitusi saab teha ka võrguühenduseta, peavad närvivõrke kasutavad rakendused selle süsteemi sisse põimima.
Kõikides manustatud rakendustes seisavad AR / VR või segareaalsus silmitsi ainulaadsete väljakutsetega. Enamik ülaltoodud väljadel olevaid seadmeid on kantavad seadmed, näiteks nutikiiverid, kõrvaklapid või nutiprillid. Nad tuginevad akutoitele ja on energiatarbimiseks närvivõrgu lahenduse valimisel üks olulisemaid kaalutlusi. Teine oluline nõue AR / VR-rakenduste jaoks on latentsuse vähendamine, seega peavad närvivõrgud rakendama seadme kinnistamist. Kõik need seadmed vajavad mingisugust pildituvastust, žestide tuvastamist, stereokaamera segmenteerimist, 3D-tajumist, pea jälgimist, silmade tuvastamist ja silmade jälgimise võimalusi. Kujutustehnoloogiaid on palju, kuid aja jooksul realiseeritakse mõned neist funktsioonidest, näiteks semantilise keskkonna mõistmine, žestide tuvastamine või piltide tuvastamine, närvivõrkude kaudu. Lisaks pildistamisele / visuaalsetele närvivõrkudele seavad need seadmed häälkäskluste vastuvõtmiseks ka nõuded heli / audio närvivõrkudele.
Tänases kiiresti muutuvas tehnoloogilises keskkonnas peavad AR / VR-seadmete tootjad valima viivitamatult platvormid toodete jaoks, mida turustatakse aastatel 2019, 2020 ja veelgi hiljem. Pärast uue närvivõrgu kasutuselevõttu ei saa me selle arhitektuuri pidevate muutuste tõttu tagada praeguse tõhusa tööplatvormi efektiivsust tulevases süsteemis. Lisaks vajavad need rakendused ka väikest latentsust ja väikest energiatarbimist, mis on samuti eriti oluline; kuid pidades silmas närvivõrgu nõuete pidevat kasvu ja selle trendi pidevat arengut, peame siiski tagama teatava paindlikkuse ja tulevikku suunatud.
Praegu on närvivõrkude juurutamiseks kaks peamist võimalust: protsessor / GPU või riistvarakiirendi kasutamine ja pildistamise DSP sobitamine. Need kaks võimalust saavad mõlemad lahendada mõned väljakutsed, millega disainerid silmitsi seisavad; kuid mõlemal on mõned ebarahuldavad kompromissid seoses arendamise lihtsuse, energiatõhususe, latentsuse, tulevase täiendusruumi või jõudlusega. Riistvarakiirendi ja sobituv pildistamine DSP on üks manustatud seadmete valikutest, kuid see kombinatsioon on ebaefektiivne ja tekitab tarbetut energiatarbimist. Lisaks arendusraskustele tuleb tarkvara jaotada ka DSP ja kiirendi vahel. Ainult konvolutsioonilise kihi mahalaadimine suurendab märkimisväärselt andmeedastuse koormust ja mõjutab tõhusust. Lisaks on lindistamise ajal riistvara fikseeritud, nii et nendel kiirenditel pole tulevaste täienduste jaoks ruumi.
Närvivõrgu DSP-lahendused, mis vastavad manustatud rakenduste vajadustele, peavad vastama järgmistele nõuetele: neid on lihtne arendada, nad suudavad käsitseda tohutut andmemahtu, neil on ruumi edaspidisteks täiendusteks, energiat tõhusalt kasutada ja viivitusi minimeerida.
Cadence lahendus: Tensilica Vision C5 digitaalsignaali protsessor (DSP)
Optimeeritud lahendusena nägemis- ja termotuumasensorite rakenduste jaoks on Cadence Tensilica Vision C5 DSP tööstuse esimene närvivõrgu töötlemisele pühendatud DSP, mis sobib mitme protsessori arhitektuuri jaoks. Selle lahendusega saavutatakse enneolematu kiirus ja madal energiatarve ning see vastab kõigile tippklassi närvivõrgu tehnoloogia nõuetele.
Lahendus põhineb ligi 20-aastasel Xtensa mitme protsessori kogemusel, millel on sellised funktsioonid nagu mälustruktuuri jagamine, lubatud katkestused, sünkroonitud järjekorrad ja sünkroniseeritud mitme protsessoriga silumine. Vision C5 DSP suudab realiseerida kõigi närvivõrkude kihtide (konvolutsiooniline kiht, täielikult ühendatud kiht, ühenduskiht ja normaliseerimiskiht) arvutuskiirenduse, mitte ainult konvolutsioonilise kihi funktsiooni. Seetõttu vabastatakse peamise visioonitöötlus DSP võime pilti täiustavate rakenduste iseseisvaks käitamiseks; samal ajal kui Vision C5 DSP töötab järeldusülesandeid. Riistvarakiirendi üleliigse andmeedastuse eemaldamisega on Vision C5 DSP energiatarve palju väiksem kui olemasoleval närvivõrgu kiirendil.
Vision C5 DSP arvutusvõimsus on 1TMAC / sek, mis suudab rahuldada närvivõrkude üha kasvavaid arvutusnõudeid; sellel on ka täpsed arvutused, mitmetuumaline kujundusarhitektuur ja see toetab mitme TMAC-i sisseehitatud lahendusi. Vision C5 DSP on suunatud rakendustele, mis käitavad sageli mitut närvivõrku. Tänu oma programmeeritavatele omadustele on lahendusel ruumi edaspidiseks täiendamiseks ja see võib disaini muutudes toetada uusi kihte.
Visioonitöötlussüsteem peab olema kujundatud terviklikult, rakendatav kõigile platvormidele ning arendama samaaegselt riist- ja tarkvara. Selle tehnoloogia arendamiseks peavad disainerid kasutama tööriistu ja IP-sid, mis toetavad tõhusaid algoritme, ning kasutatav riistvaraplatvorm peab vastama ka iga rakenduse sihtkulutuse ja energiatarbimise nõuetele. Süsteemi vaatenurgast saab Cadence toetada sisseehitatud nägemisseadmete projekteerijaid võimalikult kiiresti ja tõhusalt transformatiivsete toodete väljatöötamisel.
Meie teise tootega:
