A SanDisk csapata egy izgalmas és forradalmian új koncepciót vázolt fel, ami az AI gyorsítók szegmensében jöhet majd jól, lényegében forradalmasíthatja is azt. A modern AI gyorsítók jelenleg a HBM, azaz a High-Bandwidth Memory szabvány valamelyik verziója köré épülő memóriachip-szendvicseket használnak, ezek jellemzően HBM3-as vagy HBM3E alapúak, de a HBM4-es megoldásokra sem kell már sokat várni. Ezek a memóriachip-szendvicsek óriási memória-sávszélességet kínálnak, viszont költséges a gyártásuk, illetve a velük elérhető memória-kapacitás is erősen limitált ahhoz képest, amit a SanDisk csapata letett az asztalra.
A HBF, azaz a High-Bandwidth Flash névre keresztelt újítás lényegében ugyanazt a koncepciót viszi tovább, amit a HBM-nél már láthattunk, vagyis memóriachip-szendvicsek formájában férhetnek majd hozzá a következő generációs AI gyorsítók a fedélzeti memóriához, ez viszont már nem DRAM, hanem Flash alapú lesz, annak minden előnyével és hátrányával. A SanDisk víziója szerint a HBF jóvoltából akár 4 TB-nyi fedélzeti memóriával is felvértezhető lesz egy-egy AI gyorsító, ami óriási előrelépés a jelenlegi szinthez képest. A vállalat szakemberei szerint a HBF memóriachip-szendvicsekkel 8-szor vagy 16-szor nagyobb memóriakapacitás érhető el, mint a HBM típusú megoldásokkal, miközben a költségek szintje és a memória-sávszélesség is a megszokott szinten maradhat.
A HBF létrehozásához a vállalat BiCS 3D NAND Flash memórialapkáit használják, igaz, azt nem árulták el, hogy itt milyen NAND Flash technológia dolgozik majd a háttérben. Ez azért fontos, mert a NAND Flash memóriacellák írási/törlési ciklusainak száma véges, sokkal kevesebb, mint amit egy HBM memóriachip kibír, ezért nem mindegy, milyen megoldásokat vetnek be az élettartam és a strapabíróság növelése érdekében. Az biztos, hogy a HBF memóriachip-szendvicsek esetében egy I/O lapka fölé rétegezik a 3D NAND Flash memórialapkákat, ehhez a CMOS Directly Bonded to Array (CBA) technológiát vetik be.
Mivel azonban a tradicionális NAND Flash lapkák esetében az adattárolás az adott memóriatömbön belül lapok és blokkok formájában történik, itt szükség volt némi módosításra is annak érdekében, hogy párhuzamosan több cellát is el lehessen érni, ezáltal az adatáviteli sávszélesség elérheti a kívánt szintet. A NAND Flash lapkák esetében a legkisebb egység, amit törölni lehet, az a blokk, míg a legkisebb egység, amit írni lehet, az a lap – utóbbi több blokkból áll. Éppen ezért felosztották a területet több tömbre, amelyeket egymással párhuzamosan kezelhet a memóriavezérlő. Ezek a szubtömbök, amelyek valószínűleg dedikált írási/olvasási sávokkal rendelkeznek, saját lapokkal és blokkokkal dolgozhatnak, és valahogy úgy kell őket elképzelni, mint a több síkra (plane) osztott NAND Flash chipeket.
Az első generációs HBF memóriachip-szendvicsek a tervek szerint összesen 16 darab HBF lapkából állnak majd, amelyek egymásra rétegezve foglalnak helyet a tokozáson belül. A lapkák rétegezéséhez speciális technológiát kellett kifejleszteni annak érdekében, hogy a lapka vetemedését minél inkább elkerüljék. Egy-egy ilyen lapkaszendvics alján egy logikai áramkör kap helyet, ami egyszerre több száz vagy több ezer párhuzamos adatfolyam kezelésére képes, vagyis sokkal komplexebb, mint egy tradicionális SSD vezérlő.
Arról sajnos nem esett szó, hogy a HBF memóriachip-szendvicsek teljesítménye pontosan hogyan alakul majd, csak annyi tűnik biztosnak, hogy a HBM memóriachip-szendvicsek szintjén helyezkedhet el, azt viszont nem részletezték, melyik HBM szabványra gondoltak. A HBM3 például 128 GB/s körüli memória-sávszélességet kínál, míg a HBM3E már akár 1 TB/s-os memória-sávszélesség elérését is lehetővé teszi, például az Nvidia B200-as AI gyorsítójánál.
Az új memóriatípus esetében van egy kis korlát is, ami behatárolja, mely területeken lehet hatékonyan alkalmazni. A bitenkénti késleltetés értéke sosem fogja elérni a HBM szintjét, pontosan ezért is mondták azt a SanDisk illetékesei, hogy az új memóriatípus elsősorban az olvasás-intenzív feladatok alkalmával jöhet jól, például nagymennyiségű adatkészlet kezelésekor, amit dedukciós célokra használ az adott gyorsító. Ezekben az esetekben a nagy adatátviteli sávszélesség fontosabb szempont lehet, mint a HBM által biztosított ultra-alacsony késleltetés, vagyis sok esetben jó választás lehet a HBF memóriatípus, ám a HBM helyét nem fogja átvenni a közeljövőben. Maga a HBF elektronikai szinten ugyanazt a csatolót használja, mint a HBM, ám egyiket nem lehet csak úgy a másik helyére illeszteni, ilyen szintű átjárás ugyanis nincs közöttük.
Érdekes lesz majd a strapabíróság kérdése is, ezt sem részletezték egyelőre, pedig kritikusan fontos szempont, ahogy fentebb már utaltunk rá. Ezen a téren az is kihívást jelenthet, hogy a NAND Flash blokkok szintjén törölhető és írható, míg a DRAM esetében bitenkénti címzésre is van lehetőség.
A SanDisk csapata egyelőre azt sem részletezte, hogy az új memóriatípus mikor válik elérhetővé. A vállalat nyílt szabványként, nyílt ökoszisztéma formájában szeretné elérhetővé tenni az új fejlesztést, ennek érdekében az iparági együttműködések is elkezdődhetnek a nem is oly távoli jövőben.
