Az Intel bemutatta a Nervana Neural Processzor névre keresztelt speciális célhardverét (ASIC), ami kifejezetten mélytanuláshoz készült, feladata pedig az, hogy hatékonyságával és rugalmasságával alternatívát állítson a GPU alapú gyorsítóknak. Az újdonság hosszú fejlesztői munka eredményeként készülhetett el, és ugyan a korábban kitűzött első féléves megjelenést nem sikerült tartani, az év végéig így is megindul az első tesztlapkák szállítása.
A Nervana Neural Processor alapját a Nervana Egine adja, amit a Nervana még 2016 májusában mutatott be, majd a céget nem sokkal később, augusztusban felvásárolta az Intel. Az akkori termék minden fontos alkotóelemet tartalmazott, ami a mostani NNP-ben is jelen van: volt rajta HBM2 fedélzeti memória, FlexPoint nagysebességű összekötő rendszer és gyorsítótár nélküli szoftveres memória-menedzsmenttel is büszkélkedhetett.
Az újdonság, amit korábban Lake Crest néven emlegetett a gyártó, egy nagy kirakós egyik legfontosabb eleme. Ebben többféle olyan eszköz is szerepel, amelyek mélytanuláshoz készültek. A vállalat az autóipart a Mobileye segítségével veszi célba, az FPGA piacot az Altera segítségével ostromolja, a képfeldolgozással kapcsolatos feladatokban pedig a Movidius segít. A Neural Network Processzor az adatközpontokat célzó termékek körét bővíti, ahol a Xeon, a Xeon Phi és az Arria FPGA-k mellett mostantól az NNP is csatasorba állhat. A felsorolt termékek mindannyian más és más piaci szegmenseket vesznek célba, így a hangsúly is különböző funkciókra kerül, a teljesítmény pedig ugyancsak eltérő – az adott igényekhez és lehetőségekhez alkalmazkodik.
Az NNP egyebek mellett az Nvidia Volta alapú megoldásai ellen is harcba száll. A lapka fedélzetén nem dolgozik klasszikus értelemben vett gyorsítótár-architektúra, de valamennyi gyorsítótár így is rendelkezésre áll, amelyek a lapka működését biztosítják. A memória menedzselését szoftveresen végzi a rendszer, ami azért előnyös, mert a mélytanulással kapcsolatos munkafolyamatok során többnyire előre tisztában lehet lenni a műveletekkel és a memória-hozzáférésekkel kapcsolatos igényekkel még azelőtt, mielőtt a feladat végrehajtása megkezdődne. Ez a módszer értékes lapka-terület megspórolását is jelenti, amit vagy extra funkciókra, vagy extra számítási kapacitásra, vagy pedig méretcsökkentésre lehet fordítani. Az NNP mellé egyébként 32 GB-nyi HBM2-es fedélzeti memória jár, ami interposer segítségével kerül bevetésre, a memória-sávszélesség értéke pedig 1 TB/s.
A nagy párhuzamos számítási teljesítményt segíti a lapkák között kapcsolatot teremtő összekötő technológia is, ami 12 kétirányú linkkel dolgozik. A linkek segítségével hatékonyan eloszthatóak a feladatok, így valódi párhuzamos számítási modellel lehet dolgozni, a chipek pedig egy nagy virtuális processzorrá is egyesíthetőek, amelynek során a chipek számának növelésével közel lineáris gyorsulás tapasztalható. A hatékonyságot a FlexPoint, a Nervana numerikus formátuma is növeli, ami pontosság terén átmenetet képez a lebegőpontos és a fix pontos műveletek között. Segítségével egyes áramkörök egyszerűsíthetőek, a lapka így „sűrűbbé” tehető, ami növeli a párhuzamosságot és csökkenti a fogyasztást. Az a tény pedig, hogy a lapka felépítése a mélytanulásnál használatos műveletek – például a mátrix-szorzás és a konvolúció – gyorsítását segíti, még vonzóbbá teheti a processzorokkal és grafikus processzorokkal szemben, hiszen hatékonyabban dolgozik náluk – ezért is célhardver (ASIC).
Az NNP a TSMC 28 nm-es gyártástechnológiájával készülhet, a következő generációs termékek pedig 16 vagy 14 mn-es gyártástechnológiával készülhetnek és akár a 3D XPoint technológiában rejlő lehetőségeket is kamatoztathatják.
