Az AI és HPC piaci gyorsítók fedélzetén jelenleg HBM3 vagy HBM3E szabványú memóriachip-szendvicseket használnak, amelyek hatalmas memória-sávszélesség elérésére adnak lehetőséget, illetve memória-kapacitás terén is kellően ütőképesek, ám ahogy a nagy nyelvi modellek és a mesterséges intelligenciához kapcsolódó egyéb feladatok egyre bonyolultabbá és egyre erőforrás-igényesebbé válnak, nemcsak a GPU-k részéről, hanem a memória-alrendszer részéről is fejlesztésekre van szükség. A folyamatos fejlesztések hatására hatékonyabban, magasabb adatátviteli sávszélességgel, nagyobb kapacitással működő memóriachip-szendvicsek készülhetnek majd. A következő lépcső a várva várt HBM4 lesz, ami több területen is előrelépést hoz előző generációs társaihoz képest.

Az alapvető felépítés változatlanul megmarad, vagyis a HBM memórialapkák egymásra rétegezve foglalhatnak helyet a memóriachip-szendvicsen belül, ami egyetlen HBM tokozású memóriachip formájában válik elérhetővé. A HBM4 érkezésével a memória-adatsín 1024-bitről 2048-bitre hízik, azaz lényegében duplájára növekszik, ehhez pedig akár 8 Gbps-os adatátviteli sebesség is társulhat, ami akár 2 TB/s-os memória-sávszélesség elérését is lehetővé teszi. Az egyik legnagyobb újítás az, hogy memóriachip-szendvicsenként már nem 16, hanem 32 független memóriacsatorna érhető el, ezek pedig két alcsatornával is rendelkeznek.

A szélesebb adatsín segít a memória-elérés rugalmasságának növelésében, illetve abban is, hogy a memóriaműveletek terén nagyobb fokú párhuzamosságot lehessen elérni, ami növeli a teljesítményt. Architektúra terén kiemelten fontos változás, hogy a HBM4 esetében immár elválasztották egymástól a parancs- és adatbuszokat, ami segít a késleltetés csökkentésében és növeli a teljesítményt a több csatornán keresztül zajló műveletek esetében, ez pedig kifejezetten jól passzol az AI és HPC piaci feladatokhoz. A HBM4 esetében új fizikai csatolót is használnak, ami segít a jelintegritás növelésében, illetve nagyobb adatátviteli sávszélesség kiszolgálására képes, és a csatorna-hatékonyság is magasabb lesz általa.

Energiahatékonyság terén előrelépés, hogy a JESD270-4 szabvány keretén belül gyártó-specifikus feszültségtartomány elérésére van mód, ami azt jelenti, hogy VDDQ terén 0,7 V, 0,75 V, 0,8 V vagy 0,9 V-os értékek közül lehet választani, míg a VDDC opciói között 1.0 V és 1.05 V szerepel. A finomhangolás lehetőségével csökkenthető a fogyasztás és növelhető az energiahatékonyság is, annak megfelelően – az implementáció igazodhat az adott rendszerek igényeihez. Nagyon fontos extra, hogy a HBM4-es memóriachip-szabvány használható lesz a HBM3 támogatással ellátott memóriavezérlőkkel is, azaz biztosított a visszamenőleges kompatibilitás, ami lehetővé teszi, hogy egy adott memóriavezérlő a HBM3 és a HBM4 szabványú memóriachip-szendvicseket egyaránt használhassa. A visszamenőleges kompatibilitás segíti a HBM4 memóriaszabvány terjedését, illetve rugalmasságot biztosít tervezés terén is.

Az egyes HBM4-es memóriachip-szendvicsek többféle kiszerelésben készülhetnek: a memórialapkák száma 4-től egészen 16-ig terjedhet, míg a lapkák kapacitása 24 Gb vagy 32 Gb lehet. Egy 16-Hi felépítésű HBM4-es memóriachip-szendvics ennek köszönhetően 64 GB-nyi memóriakapacitást kínálhat, ami segít a memóriasűrűség növelésében, ez pedig az AI és HPC piac munkafolyamatok hatékonyabb, jobb teljesítmény mellett történő végrehajtásának kedvez.

Fontos újítás, hogy a HBM4 esetében megjelent a Directed Refresh Management, azaz a DRFM funkció, ami továbbfejlesztett védelmet biztosít a Rowhammer hatással szemben, ezáltal fokozza a megbízhatóságot, az elérhetőséget, illetve a szervizelhetőséget.

A HBM4 szabvány fejlesztése során széles körű iparági együttműködés folyt, így egyebek mellett a Samsung, a Micron és az SK Hynix is részt vett a folyamatban, ennek hatására egy széleskörű egyetértésen alapuló szabvány jöhetett létre. A tervek szerint a HBM4 alapú gyorsítók is rövidesen megjelenhetnek, a Samsung pedig még idén szeretné beindítani az új memóriaszabvány köré épülő memórialapkák sorozatgyártását is.

A HBM4 érkezésével az iparági szereplők magasabb memória-sávszélességre támaszkodó gyorsítókat készíthetnek, amelyek nagyobb kapacitású memóriát kaphatnak, ezáltal növelhető lesz a teljesítmény, több adatot lehet majd egységnyi idő alatt feldolgozni, amire kiemelten nagy szükség van a az AI jellegű technológiák fejlődéséhez.