A Microsoft szerint a HPC szegmensben jelentkező egyes munkafolyamatok teljesítményére erősen rányomja a bélyegét a rendelkezésre álló memória-sávszélesség. A teljesítmény növelése érdekében a vállalat az Azure Virtual Machine szolgáltatás kretén belül ezt megpróbálta ellensúlyozni a Milan-X és a Genoa-X sorozatú AMD EPYC szerverprocesszorokkal, amelyek a 3D V-Cache gyorsítótár révén jelentős teljesítménynövekedést hoztak egyes munkafolyamtok esetében, ám ezzel a jelek szerint nem voltak maradéktalanul elégedettek. Mivel az AMD időközben elkészítette az MI300A és MI300X sorozatú AI gyorsítókat, amelyek közül előbbiek lényegében speciális APU egységeknek tekinthetőek, HBM3 típusú fedélzeti memóriával megfűszerezve, adva volt a lehetőség, hogy a korlátozott memória-sávszélesség jelentette problémákat orvosolják egy kreatív fejlesztéssel.

A megoldás egy speciális AMD EPYC szerverprocesszor lett, ami 3D V-Cache helyett immár HBM3 típusú memóriát vonultathat fel, méghozzá igen nagy kapacitással. Ez az újítás mindenképpen segít a memória-sávszélességének növelésében, viszont a HBM3 sajátosságai miatt várhatóan sokkal rosszabb a késleltetés, ami a célterületen jelentkező munkafolyamatokat a jelek szerint nem befolyásolja annyira negatív mértékben, hogy ne érné meg az új processzorokat alkalmazni. A HBM3 memória persze itt már nem az L3 Cache kiterjesztéseként jelenik meg a rendszerben, hanem szupergyors utolsó szintű gyorsítótárként.

Az új AMD EPYC szerverprocesszorok az Microsoft Azure publikusan nem elérhető HBv5-ös virtuális gépeit erősítik, amelyekből egy-egy ilyen VM összesen négyet foghat munkára. Ez összesen 352 darab ZEN 4-es processzormagot jelent, amelyekhez összesen 450 GB-nyi HBM3-as fedélzeti memória társul. Az egyes chipek fedélzetén kikapcsolták az SMT támogatást, vagyis egy mag csak egy szálon dolgozhat, a normál Infinity Fabric sávszélességéhez képest dupla sávszélesség érhető el. A VM-ek esetében a kapcsolatot az Nvidia 800 Gbps-os Quantum-2 InfiniBand technológiája biztosítja.

A fentiek alapján egy-egy új AMD EPYC szerverprocesszor 88 magot kínál a HBv5 VM számára, ám valószínűleg ennél több processzormag található a fedélzeten fizikailag. A legvalószínűbb az, hogy 8 mag a HyperVisor feladatkört látja el, vagyis a VM mögött húzódó feladatokért felelnek, így ezek a VM-en keresztül nem érhetőek el. Az új fejlesztés mindenképpen segít a teljesítmény növelésében, alapját pedig jó eséllyel a már ismert MI300A típusú APU egység adja, ami ebben az esetben nem tartalmaz CDNA3 alapú GPU-t, csak és kizárólag ZEN 4 architektúra köré épülő processzormagokat vonultathat fel. Egy efféle chip korábban már felbukkant MI300C jelzéssel – nincs kizárva, hogy pont ezt kapta meg a Microsoft Azure részlege.