Az Nvidia egy rendkívül fontos fejlesztéssel rukkolt elő a minap, ami a korábban bemutatott Hopper processzort és a Grace GPU-t egyesítő GH200-as gyorsító továbbfejlesztett változatának tekinthető. Korábban már mind a Hopper, mind pedig a Grace bemutatkozott formálisan, az egyetlen egységbe tömörített termék azonban csak idén, a Computex 2023 alkalmával került elő a GH200 formájában, amelynek GPU részlege akkoriban még HBM3 alapú memóriát tartalmazott. A legújabb verzió gyakorlatilag a korábbi alapokat viszi tovább, viszont extraként immár HBM3e típusú fedélzeti memóriát is munkára foghat a GPU részleg, ami segít az effektív memória-sávszélesség növelésében. Lényegében az Nvidia Grace Hopper GH200-as SuperChip az első olyan termék a piacon, amely már a HBM3e szabvány köré épülő memóriát használhatja.
A Grace Hopper GH200 fedélzetén található Grace CPU részleg szokás szerint 72 darab ARM Neoverse V2 típusú processzormag köré épül, míg a rendszermemória kapacitása ezúttal is 480 GB-nyi LPDDR5X típusú mobil RAM, amelynek effektív sávszélessége picivel 500 GB/s felett helyezkedik el. A Hopper alapú GPU továbbra is 132 darab SM tömbbel rendelkezik, a Grace CPU-hoz pedig NVLink típusú összekötőn keresztül kapcsolódik, ami 900 GB/s-os adatátviteli sávszélesség elérését teszi lehetővé.
Korábban a GPU mellé HBM3 típusú fedélzeti memória kapcsolódott, amelynek kapacitása 96 GB volt, míg az elérhető memória-sávszélesség picivel 4 TB/s alatt helyezkedett el. Ehhez képest az új modellnél a HBM3e alapú memória-alrendszernek köszönhetően immár 144 GB-nyi fedélzeti memória kapott helyet, ami hat darab 24 GB-os chipszendvicsből épül fel. A 6144-bites memória-adatsínre kapcsolódó memóriából csak 141 GB-nyi érhető el, ami a jobb kihozatali arány elérését segíti. Az új fejlesztés esetében a memóriakapacitás nagyjából 50%-kal nőtt a régi modellhez képest, míg az effektív memória-sávszélességet picivel több, mint 25%-kal sikerült megemelni.
Ez az előrelépés kifejezetten hasznos az AI alapú terhelésformák esetében, márpedig erre a piacra szánja a gyártó az újdonságot. Az extra memória-kapacitás jóvoltából nagyobb AI modellek kezelésére van mód, az extra memória-sávszélesség pedig a feladatvégzés gyorsaságát fokozza.
Az Nvidia tervei szerint az eredeti GH200-as Grace Hopper platform, ami HBM3 alapú fedélzeti memóriát alkalmaz a GPU részleg esetében, már sorozatgyártásba került, míg a HBM3e alapú verzió, ami több és gyorsabb fedélzeti memóriát kapott, majd csak 2024 második negyedévében kerülhet sorozatgyártásba. A tervek szerint mindkét platform egyszerre lesz elérhető kereskedelmi forgalomban, és a HBM3e alapú verzió a nagyobb memóriakapacitásnak és nagyobb memória-sávszélességnek köszönhetően valamivel drágább lesz. Árakról persze egyelőre nem esett szó.
Jó hír, hogy a HBM3e alapú verzió teljes mértékben kompatibilis lesz az Nvidia MGX szervereivel, vagyis a HBM3-as modell helyére könnyedén beilleszthető a HBM3e alapú verzió is, ami mindenképpen jó hír az üzleti felhasználók számára.
