A Samsung egy különleges HBM2-es memóriachipről rántotta le a leplet, ami ezúttal nem csak nagy sávszélességű memóriaként használható, hanem különböző AI feladatok gyorsítására is. Ez azért lehetséges, mert az egyes memórialapkák normál memóriabankjai mellé úgynevezett PCU blokk is került, amelynek köszönhetően különböző FP16-os műveletek gyorsítására nyílik mód. Azokat a feladatokat, amelyeket eddig a processzorok, grafikus processzorok, ASIC lapkák, illetve FPGA lapkák végeztek el, az újítás jóvoltából már maga a fedélzeti memória is teljesíteni tudja.
A HBM-PIM névre keresztelt újítás jóvoltából a processzor és a memória közötti adatfolyam okozta sávszélesség-foglalás csökkenthető, ami azért lényeges, mert ez az adattovábbítás sokszor többe kerül fogyasztás tekintetében, mint maguk az elvégzendő műveletek. A Samsung megoldása azért is ütőképes, mert az új HBM2-es memórialapkák alkalmazásához nincs szükség módosított memóriavezérlőre, ugyanúgy működnek, mint a hagyományos HBM2 Aquabolt memóriaszendvicsek, cserébe viszont akár kétszer jobb rendszerteljesítmény elérésére adnak lehetőséget AI feladatvégzés tekintetében, miközben a fogyasztást akár 70%-nál is nagyobb mértékben tudják csökkenteni.
A technológia alkalmazásához a Samsung szerint tehát sem hardveres, sem pedig szoftveres változtatásokra nincs szükség, azaz gyorsan piacra kerülhetnek a vele felszerelt termékek. A HBM-PIM memória egyébként kétféle üzemmódot is támogat: a kész memóriaszendvics használható klasszikus HBM2-es memóriachipként, de igény esetén a PIM üzemmód is bevethető, ha az AI műveletek gyorsítására van szükség.
Mivel a HBM-PIM memória esetében minden memóriabankra jut egy PCU blokk, ami 300 MHz-es órajelen ketyeg, így az egyes memórialapkák kapacitása feleakkora, mint egy normál HBM2-es lapkáé. Gyakorlatilag az a lapka, ami normál esetben 8 Gb fedélzeti memóriát kínálna, ennek köszönhetően csak 4 Gb-es kapacitással bír. A vállalat mérnökei éppen ezért úgy döntöttek, hogy 6 GB-os memóriachipeket hoznak létre, azaz négy darab 4 Gb-es, PCU-val is felszerelt lapkát kombinálnak négy darab 8 Gb-es, PCU nélküli memórialapkával. Egy-egy ilyen megoldás akár 1,2 TFLOP/s-os számítási teljesítményt is kínálhat, ami abszolút nem elhanyagolható előny.
A Samsung elsősorban a HPC szegmensbe, adatközpontokba, illetve mesterséges intelligenciát használó mobil megoldásokba szállítja majd az új HBM-PIM chipeket, azaz a legfrissebb gamer videokártyákon még egy ideig biztosan nem találkozhatunk efféle újítással. Már csak azért sem, mert a HBM-PIM lapkákat még tesztelik az iparági szereplők, ez a folyamat pedig ebben a félévben még jó eséllyel tartani fog, csak ezt követően kezdődhet meg a friss memóriachipek szélesebb körben történő alkalmazása.
Mivel a HBM memóriachipek esetében az egymásra rétegezett memórialapkák hűtése alapból nem egyszerű, kérdéses, hogy az egyes memóriabankok mellett elhelyezett PCU hőtermelése mennyiben rontja ezt a helyzetet, és hogy sikerült erre megoldást találnia a dél-koreai vállalatnak. Arról sem esett szó, hogy a speciális lapkaszendvics mennyivel lesz drágább egy normál HBM2-es memórialapkához képest, pedig ezt is érdekes lenne látni. Remélhetőleg idővel ezekre a kérdésekre is választ kapunk, maga a fejlesztés azonban mindenképpen igen figyelemreméltó és ütőképes.
