A Micron egy rendkívül fontos fejlesztést jelentett be a minap, ami ráadásul már el is érhető a partnerek számára, igaz, egyelőre még csak mintachipek formájában. A szóba forgó fejlesztés nem már, mint a második generációs HBM3, amit a Micron csak HBM3 Gen2 névvel emleget. Ezek a memóriachipek jelenleg a leggyorsabb HBM típusú megoldásoknak minősülnek, hiszen 1,2 TB/s-os kombinált adatátviteli sávszélesség elérésére képesek, de ezzel együtt kapacitás és energiahatékonyság terén is alaposan felülmúlják az eddig bemutatott HBM3-as chipeket.

A HBM3 Gen2 előtt a Micron nem mutatott be első generációs HBM3-as memóriachipeket, ugyanis a vállalat a HBM2E után rögtön a HBM3 Gen2 fejlesztésébe kezdett, így most némi versenyelőnyt tudhat magáénak. A HBM3 Gen2 típusú memóriachipek közül az első példányok úgynevezett 8-high kivitelben érkeznek, vagyis a tokozáson belül összesen 8 lapka foglal helyet, ami 24 GB-os teljes kapacitást eredményez, de később 12-high kiépítés is elérhetővé válik, amellyel már 36 GB-nyi kapacitás érhető el. A HBM3 esetben a 8-high modellek 16 GB-os, a későbbi érkező 12-high verziók pedig 24 GB-os kapacitást biztosítanak.

Az új memóriachipek a Micron szerint 2,5x-ös előrelépést kínálnak energiahatékonyság terén a HBM2E típusú lapkákhoz képest, ami igencsak figyelemreméltónak nevezhető. Maguk a chipek továbbra is ugyanúgy 1,1 V-os üzemi feszültséggel dolgozhatnak, mint a HBM3-as modellek, a HBM2E típusú lapkákhoz képest viszont 0,1 V-os feszültségcsökkenés ment végbe. A 11 x 11 milliméteres alapterületű chipek lényegében 50%-kal nagyobb kapacitást kínálnak, mint a jelenlegi HBM3-as modellek, ami igen komoly előrelépés, hiszen jelentős adatsűrűség-növekedést jelent.

Az új chipekkel lehetőség van arra, hogy egy AMD MI300-as szintű gyorsítókártyára akár 288 GB-nyi fedélzeti memória kerüljön, már amennyiben 8 chipszendvicsben gondolkodunk, de az Nvidia H100 szintű termékén is elférne 216 GB-nyi fedélzeti memória, amennyiben 6 memóriaszendvicset alkalmaznak. Mivel a chipek lábkiosztás terén kompatibilisek a jelenlegi HBM3-as megoldásokkal, viszonylag egyszerűen és gyorsan lehet implementálni őket a különböző dizájnokba.

Az adatátviteli sávszélesség szintén parádés, hiszen 1,2 TB/s-os szintet érnek el lapkák, ha 1024-bites memória-adatsínnel számolunk és a 8-high példányt vetjük be. Ez gyakorlatilag 50%-os memória-sávszélesség növekedést eredményez a jelenlegi HBM3-as chipekhez képest, amelyeknél érintkezőnként 6,4 Gbps-os, chipenként pedig 820 GB/s-os memória-adatsín elérésére van mód. Az új memóriachipek egyébként ugyanúgy 16 csatornával rendelkeznek, mint a HBM3-as modellek, a virtuális csatornák száma pedig továbbra is 32.

A nagyobb kapacitás, illetve a nagyobb sebesség alapján kézenfekvő lehet, hogy a hőtermelés is nagyobb lesz, éppen ezért a Micron fejlesztőcsapata tett néhány olyan lépést, amelyek segítenek a hőtermelés kordában tartásában. Ezek a chipek a Micron utolsó olyan gyártástechnológiával készülnek, ami még nem alkalmaz EUV rétegeket, vagyis az 1-béta csíkszélesség köré épülnek, ahogy a DDR5-ös memóriachipek is. A szóban forgó gyártástechnológia mind energiahatékonyság, mind teljesítmény, mind pedig adatsűrűség terén előrelépést hoz a HBM3-as memóriachipekhez képest. Annak érdekében, hogy a hőátadás hatásfoka jobb lehessen, az új chipeknél az egyes DRAM rétegek közötti hézagot 23%-kal csökkentették, így kisebb a légrés, valamint hamarabb eljut a termelődő hő az alul lévő, általában legmelegebb lapkától a legfelsőig. A hatékonyabb hőátadást szolgálják még a sűrűbben elhelyezett függőleges összekötők (TSV-k), amelyek segítenek a hőellenállás csökkentésében. Maga a tokozás a szokásos CoWoS technológiával kompatibilis, ami kiemelten fontos szempont az iparágon belül, ez ugyanis a leginkább használt megoldás, ha GPU-kat vagy egyéb gyorsítókat kell tokozni.

Az SK Hynix éppen nemrégiben jelentette be HBM3E típusú chipjeit, amelyek 24 GB-os kapacitással bírnak és érintkezőnként 8 Gbps-os sávszélesség elérésére képesek, azaz egy-egy chip 1 TB/s-os kombinált memória-sávszélességet kínál. A 2024-ben érkező chipekhez képest a Micron megoldásai 20%-os előnyben vannak, már ami a teljes memória-sávszélességet illeti, ami mindenképpen jó hír lehet az iparági szereplők számára. Hogy az SK Hynix végleges chipjei a Micron újításának hírére esetleg gyorsabbak lesznek, mint amit a korábbi bejelentés alapján várhatnánk? Ez idővel kiderül.