Az Nvidia háza táján történt némi változás a Vera Rubin platform terén, ami befolyásolja majd az új AI gyorsítók maximális teljesítményét, valamint versenyképesség terén is visszalépést képviselnek majd az eredeti tervekhez képest – az AMD nagy örömére.
A hivatalos specifikációs táblázat alapján több területen is történt módosítás az elmúlt időszakban, amelynek következtében alacsonyabb órajelen üzemelnek a HBM4-es memóriachip-szendvicsek, valamint az NVLink összeköttetés maximális adatátviteli sávszélességét is mérsékelték egy kissé. Ezekre a változtatásokra minden bizonnyal azért volt szükség, mert a jelenlegi implementáció mellett az eredetileg tervezett sebességek nem voltak tarthatóak, nem volt kellően stabil a rendszer és a megbízhatóság is csorbát szenvedett, de az új értékek helyreállítják a rendet, igaz, cserébe viszont le kell majd mondani némi teljesítményről.
Az egyik fontos változás az, hogy míg a Vera Rubin bejelentésekor a HBM4 memóriachip-szendvicseknél 11,7 Gbps-os sebességre készültek érintkezőnként, addig most már csak 9,6 Gbps-os tempóval számolnak. Ez a Vera Rubin alapú NVL72-es rackek esetében lényegében annyit jelent, hogy az effektív teljes memória-sávszélesség a tervezett 1580 TB/s-ról egészen 1400 TB/s-ra esik vissza, ami az egyes feladatok alatt elérhető maximális teljesítményt mindenképpen csökkenteni fogja, de ennek pontos mértékét csak a független tesztek tudnák megmutatni – és a sávszélesség-csökkenés tényleges hatása is erősen függene az adott munkafolyamat típusától.
A következő fontos módosítás az NVLink összeköttetést érinti, ami a friss tervek alapján a vártnál kisebb adatátviteli-sávszélességet kínálhat az egyes GPU-k számára. Eredetileg 18 TB/s-os adatátviteli sávszélességre készültek, de ezt le kellett csökkenteni egészen 1,5 TB/s-ra, ami azt eredményezi, hogy a 3,6 TB/s-os kétirányú kapcsolat adatátviteli sávszélessége 3 TB/s-ra esik vissza. A csökkentés a jelintegritás javítását, illetve a kapcsolat stabilitásának növelését célozhatja, a háttérben pedig az áll, hogy az NVLink Nyquist órajelét 56 GHz-ről 47 GHz-re vették vissza. Az alacsonyabb órajel következtében kisebb teher hárul az egyes komponensekre, mind például a kábelekre, a SerDes komponensekre, illetve az egyéb összetevőkre is, ami segít a gyártás hatékonyságának növelésében, illetve a működés stabilitásának fokozásában is. Azzal, hogy némi teljesítményt feláldoznak a stabilitás oltárán, mindenképpen jól járnak az ügyfelek, hiszen inkább stabil és megbízható legyen az adott AI szerver, mint picivel gyorsabb, de olykor-olykor instabil.
Hogy mit jelentenek a fentiek a konkurencia vonatkozásában? Lényegében azt, hogy az AMD Helios rackje még vonzóbb választásnak tűnhet, legalábbis papíron – a pontos erőviszonyokat majd a független tesztek demonstrálják. Az biztos, hogy az AMD Instinct MI455X jelentősen több nagy sávszélességű memóriával gazdálkodhat, mint az Nvidia Vera Rubin, ugyanis míg az AMD megoldása 432 GB-nyi HBM4-es fedélzeti memóriát vet be, amihez 23,3 TB/s-os memória-sávszélesség társul, addig a Vera Rubin már csak 288 GB-nyi memóriával gazdálkodik, méghozzá 19,2 TB/s-os memória-sávszélesség mellett.
A 72 GPU-ból álló rack esetében az AMD-nél ez 31 TB-nyi HBM4-es memóriát és 1,67 PB/s-os teljes memória-sávszélességet eredményez, míg az Nvidia Vera Rubin platformja csak 20,7 TB-nyi memóriával és 1,4 PB/s-nyi memória-sávszélességgel büszkélkedhet. Mivel az NVLink sávszélessége is csökkent, így ezen a téren is előnyben van az AMD, hiszen az UALoE segítségével 3,6 TB/s-os kétirányú adatátviteli sávszélesség jut egy GPU-ra, ami 260 TB/s-os kombinált adatátviteli sávszélességet eredményez, miközben az Nvidia térfelén csak 3 TB/s-os kétirányú adatátviteli sávszélesség van érvényben, így a kombinált adatátviteli sávszélesség is csak 216 TB/s.
A fentiek alapján az AMD Helios platformja mind memóriakapacitás, mint memória-sávszélesség, mind pedig összekötő-sávszélesség terén előnyben van az Nvidia Vera Rubin platformjával szemben. Hogy a papíron mutatkozó előny mire lesz elég valós körülmények között, illetve mennyi ügyfelet sikerül végül átcsábítani a Helios platformra? Ezekre a kérdésekre majd később érkezhet válasz.
