A Micron Technology egy rendkívül fontos mérföldkőhöz ért az elmúlt időszakban, ugyanis a vállalat elkészült a következő generációs HBM memóriatechnológia, a HBM4 fejlesztésével, majd elkészítették az iparág egyik leggyorsabb HBM4-es memóriachip-szendvicsét, ami a JEDEC szabványban foglalt 2 TB/s-os memória-sávszélesség helyett immár 2,8 TB/s-os memória-sávszélességet kínál, reagálva azokra a vásárlói igényekre, amelyek magasabb órajelen működő, nagyobb adatátviteli sávszélességgel rendelkező HBM memóriachip-szendvicsek fejlesztését tették szükségessé.

A JEDEC HBM4-es memóriaszabványa alap esetben érintkezőnként 8 Gbps-os adatátviteli sávszélességet követel meg a 2048-bites memória-adatsínen keresztül, ami egyetlen memóriachip-szendvicsre vonatkozik. Egy-egy ilyen chip fedélzetén összesen 12 darab HBM memórialapka foglal helyet, egymásra rétegezve, ezért is illetik a dizájnt a 12-Hi elnevezéssel. A Micron által kifejlesztett HBM4-es memóriachipek, amelyek szintén 12 darab HBM memórialapkából állnak, a 8 Gbps-os követelményt túlszárnyalva immár 11 Gbps-os érintkezőnkénti sebességet alkalmaznak, ezáltal a 2048-bites memória-adatsínen keresztül 40%-kal magasabb, 2,8 TB/s-os memória-sávszélesség elérésére adnak lehetőséget.

A gyorsabb memóriachipekre azért volt szükség, hogy a partnerek által kifejlesztett AI gyorsítók teljesítményét még inkább lehessen növelni, így például az Nvidia is gyorsabb HBM4-es memóriachipeket használhat, mint amit a JEDEC szabvány alapvetően megkövetelhet, ezáltal nagyobb teljesítményt kínálhat vásárlói és az AI iparág számára – még tovább növelve piaci dominanciáját.

A Micron chipjei az 1-gamma gyártástechnológiával készülő memórialapkák köré épülnek, innovatív és energiahatékony HBM4 dizájnt alkalmaznak, valamint házon belül kifejlesztett CMOS alap lapka kapcsolja össze az egyes lapkákat, így az iparágon belül vezető teljesítményt kínálhatnak és energiahatékonyság terén is a legjobb fejlesztést biztosíthatják.

A HBM4 memóriaszabvány esetében a Micron az alap termékeken felül azt is lehetővé teszi a megrendelők számára, hogy egyedileg módosított alap logikai lapkát kérjenek. Az AMD és az Nvidia ennek köszönhetően most először alkalmazhat egyedileg módosított HBM memóriachip-szendvicseket új generációs AI gyorsítóinál. A 12-Hi felépítésű memóriachip-szendvics esetében az egyes HBM lapkák TSV összeköttetésen keresztül kommunikálhatnak az alap lapkával, vagyis a legalul elhelyezett CMOS lapkával, ami az egyed módosítási lehetőségek révén immár egyedi logikai áramkört vagy egyedi gyorsítót is tartalmazhat, amelyek speciális igényeket szolgálhatnak ki.

A jelek szerint az efféle egyedi lapkák segíthetnek az adatfeldolgozás és az adatáramlás optimalizálásában, ezáltal az adatcsomagok még hatékonyabban, még kisebb késleltetés mellett érhetnek célba, ami a működés optimalizálása révén segíthet a teljesítmény további növelésében.