Az Intel egy pendrive méretű eszközt mutatott be, amely ezúttal nem az asztali számítógépek kiváltására készült, mint anno az általunk is tesztelt Intel Compute Stick, amiből azóta újabb modellek is érkeztek, hanem arra, hogy kiváltsa a neurális hálózatok bizonyos munkafolyamatait. A kompakt újdonság a korábban felvásárolt Movidius egyik vezérlőjét alkalmazza, így nem meglepő, hogy a Movidius Neural Compute Stick nevet viseli. Célja, hogy a rendelkezésre álló erőforrások hatékony skálázásával, energiahatékonyan lehessen fejleszteni a neurális hálózatokat.
A Neural Compute Stick gyakorlagilag a gépi tanulás, illetve a mélytanulás különböző fázisait gyorsítja, így egyebek mellett az Inference Training nevű, következtetéseken alapuló munkafolyamat gyorsítására is használható. Az algoritmus-tanítás persze továbbra is az igazi „nagyvasak” feladata lesz, hiszen ehhez sokkal komolyabb teljesítményre van szükség, ám az Inference típusú munkavégzést már akár ilyen, pendrive méretű eszközökre is ki lehet szervezni.
Az újdonság alapját egy Myriad Vision Processing Unit adja, amely 1 wattos fogyasztáskeretben képes a már említett 100 GFLOP/s-os számítási teljesítmény elérésére. Az eszköz USB 3.0-s portra csatlakozik, de USB 2.0-s porton is használható, ekkor azonban előfordulhat teljesítménycsökkenés. Az említett vezérlő mellé 4 GB-nyi LPDDR3-as memória jár, ami a nagyobb, sűrűbb neurális hálózatokkal való munkát segíti. Deep Learning Framework támogatás terén a Caffe jöhet szóba, natívan pedig csak az FP16-os számítási módot támogatja az eszköz. Nagyon érdekes és hasznos dolog, hogy az újdonság nem csak önálló gyorsítóként használható, hanem több társával is képes együttműködni.
A Movidius szakemberei szerint négy ilyen stick használata mellett lineárisan növekszik a teljesítmény, de akár 6 vagy 8 ilyen stick is összevonható – elméleti maximális korlát nincs. A teljesítmény skálázódása erősen függ majd az adott neurális hálózattól.
Az Intel újdonsága 79 dolláros áron lesz elérhető a partnereken keresztül.