A High-Bandwidth Memory szabvány különböző verziói köré épülő memóriachip-szendvicsek iránt óriási a kereslet, ezek a komponensek ugyanis nélkülözhetetlenek a mai modern AI gyorsítók gyártásához. A szabványt ráadásul igen-igen tempósan fejlesztik annak érdekében, hogy a memóriakapacitás és a memória-sávszélesség iránti egyre növekvő igényeket minél hatékonyabban ki tudják elégíteni.

A három nagy memóriagyártó, vagyis a Samsung, a Micron, illetve az SK hynix sem tud annyi chipet gyártani, amennyi elég lenne a piac számára, így az alternatív források iránt mindenképpen lehet kereslet, csak úgy, ahogy az alternatív memória-technológiák iránt is. Utóbbi persze nem egy egyszerű terep, hiszen az újfajta memóriachipekhez hozzá kell igazítani az AI gyorsítók memóriavezérlőjét, ami nem egy rövidtávú feladat, de a következő generációs AI gyorsítók fedélzetén már helyet kaphat egyik-másik HBM-kihívó, például a Qualcomm által frissen bemutatott HBC is.

A HBC, azaz a High-Bandwidth Compute névre keresztelt fejlesztés egyrészt abban különbözik a HBM-től, hogy klasszikus DRAM helyett a mobilpiacra szánt energiatakarékos LPDDR típusú memóriachipeket használja, másrészt pedig egy speciális alap lapkát is használ, amivel memória-közeli számítási feladatok elvégzésére nyílik mód.

Utóbbi területet a Samsung is szeretné megcélozni, vagyis ezen a téren a HBM is versenyképes lehet, de energiahatékonyság terén a HBC felé billenhet a mérleg nyelve, hiszen az alacsonyabb üzemi feszültséggel dolgozó memórialapkák kevesebbet fogyasztanak, mint normál társaik, egy-egy adatközpontnál ez lényeges előnnyé válhat, hiszen jellemzően több ezer vagy több tízezer AI gyorsító alkot egy-egy nagyobb fürtöt. Ekkora tételnél már a néhány wattnyi fogyasztáskülönbség is számít: az alacsonyabb fogyasztás révén alacsonyabb lesz az üzemeltetési költség és a hűtés hatékony megvalósítása is egyszerűbb lehet valamivel.

A HBC típusú memóriachip-szendvicsek fedélzetén egymásra rétegezett LPDDR memóriachipek foglalnak helyet, ezek között függőleges vezetők (TSV-k, Throug-silicon-Vias) teremtenek kapcsolatot, amelyek az alap lapkában végződnek. Az alap lapka némi számítási teljesítményt is biztosít annak érdekében, hogy az adatokon el lehessen végezni néhány alap műveletet, ezzel is tehermentesítve az AI gyorsító GPU-ját és hatékonyabbá téve a munkavégzést, ami végső soron a teljesítmény növekedésével jár. Utóbbi területen a HBM4 is próbál jeleskedni, de a Qualcomm megoldása még magasabb hatékonyságra és még optimálisabb adatmozgatásra törekszik, amelynek révén az egy wattnyi fogyasztásra jutó memória-sávszélesség hatszorosára növelhető ahhoz képest, amit a jelenlegi HBM szabvány tud.

A HBC első generációs verziójával egy AI250-es gyorsító mellett 133 TB/s-os memória-sávszélesség elérésére nyílt mód, ami 18-szoros előrelépés ahhoz képest, amit a Qualcomm jelenlegi AI200-as kártyája tud normál LPDDR5X memóriachipekre támaszkodva. A távolabbi tervek között szerepel, hogy a Qualcomm több következő generációs AI gyorsító fedélzetére is felszereli majd a HBC chipeket, elsőként a 2027 közepén érkező AI250-es modell kaphatja meg. A HBC következő generációs változata ugyancsak fejlesztés alatt áll, ami további előrelépést hoz majd, főként a memória-sávszélesség jelentős növelését segítheti.

Az egyelőre nem derült ki, hogy a Qualcomm mely beszállítótól szeretné beszerezni az LPDDR5X memórialapkákat, valamint azt sem árulták el, pontosan melyik LPDDR szabványra támaszkodnak majd az újdonságok. A vállalat Snapdragon SoC egységeit a TSMC gyártja, de a HBC-nél használatos Compute Die lényegében bármelyik memóriagyártónál legyártható, vagyis rá lehet bízni a feladatot arra a beszállítóra, aki az LPDDR lapkákat is hozza. Az egyik legkézenfekvőbb választás a Samsung Foundry lehet, ugyanis a félvezetőipari bérgyártó nemcsak házon belül fejlesztett LPDDR lapkákat gyárt, hanem számításokat végző egyedi lapkákat is.

A Qualcomm egyelőre nem fedte fel a kiválasztott beszállító kilétét, de remélhetőleg rövidesen erre is sor kerül. Egyelőre az sem világos, a Qualcomm szeretne-e a HBC-vel konkurenciát állítani a HBM-nek és saját megoldásával célba venni az AI gyorsítók piacát – az AI-lázat elnézve nem lenne rossz ötlet, főleg, ha a piaci fogadtatás is pozitív.