Az Nvidia GB300 alapú szervereit egyes partnerek már gyártják, ám a legfrissebb hírek szerint a nagyobb volumenű szállítások majd csak később, valamikor szeptember folyamán indulhatnak meg, legalábbis erről értesültek a DigiTimes munkatársai az iparági informátoroktól. Nagy különbség lesz viszont a korábbi GB200-as rajthoz képest, hogy a GB300 alapú szerverek rajtja sokkal zökkenőmentesebbnek ígérkezik, ugyanis az Nvidia sok tekintetben szabadabb kezet ad partnereinek, akik így hatékonyabban és gyorsabban be tudják szerezni a termékekhez szükséges komponenseket jól bejáratott beszállítóiktól.
A GB200-as rajt alkalmával a Bianca alaplapot maga az Nvidia szállította a partnereknek, ennek fedélzetén a B200-as GPU, a Grace CPU, az 512 GB-nyi LPDDR5X típusú fedélzeti memória, valamint a tápellátásért felelős összes komponens jelen volt, sőt, még a gyártó biztosította a switch tálcát és a réz hátlapot is. A GB300 esetében változott a stratégia, ami azt eredményezheti, hogy sokkal zökkenőmentesebb lesz az új szerverek rajtja.
A friss értesülések alapján a GB300 esetében már nem szállít komplett megoldást a gyártó. A SemiAnalysis információi szerint külön, egy SXM Puck modul formájában érkezik a B300-as GPU, külön jön a GBA tokozású Grace CPU, valamint a hardvermenedzsment-vezérlő (HMC) is egy külön egységként áll rendelkezésre az Axiado kínálatából. A partnerek a többi szükséges komponenst külön szerezhetik be az alaplapok összeállításához, rendszermemória terén is lesz némi rugalmasság, ugyanis SOCAMM memóriamodult használhat az új platform, amit több memóriagyártó kínálatából is be lehet szerezni. A switch tálca és a réz hátlap továbbra is az Nvidiától érkezik. A korábbi alaplapdizájnt egyébként megtartják, ennek eredményeként nem kell áttervezni a platformot, ami segít a gyártási folyamat zökkenőmentesebbé és gyorsabbá tételében, ami kockázatmentesebb rajtot eredményezhet.
Az eddigi beszámolók alapján a GB300 körül nem mutatkoztak nehézségek, minden a tervek szerint halad, amiben komoly szerepe lehet a fenti stratégiának. Az Nvidia csapata a harmadik negyedév folyamán növelni fogja a termelést, a negyedik negyedévben pedig a szállításokat is jelentősen fel tudják pörgetni, azaz a piac kiszolgálása rendben haladhat.
Közben a következő generációs AI szerverek fejlesztése is szépen halad, ezek viszont már nem Grace, hanem Vera processzort, valamint nem Blackwell, hanem Rubin alapú GPU-t kapnak, de a jelenlegi Oberon rack továbbra is használatban maradhat. Ezúttal már a NVL144 névvel illetik a fejlesztést, ami 72 darab dupla GPU chipletet tartalmaz majd, ahogy arról korábban már beszámoltunk. A következő lépés a Kyber rack bevezetése lesz, ami már új dizájnnal érkezik, ebben pedig a Vera CPU mellett négy darab Rubin GPU foglal majd helyet.
A Rubin generációba tartozó AI gyorsítók nagyobb étvágyúak lesznek, mint Blackwell alapú társaik, ennek köszönhetően a hőtermelésük is magasabb lesz, azaz még nagyobb hangsúlyt kap a folyadék alapú hűtés. Ezen a téren persze szükség lesz még némi munkára, a GB200 alapú szervereknél ugyanis gyakori volt a folyadékszivárgás, amelynek elsődleges oka a gyorscsatlakozók hibája. Ez gyakori szervizelést tett szükségessé, ami növelte az üzemeltetési költségeket, illetve olykor-olykor kiesést is okozott az adott rack működésében is. Arról nincs hír, hogy a GB300 alapú szervereknél erre lesz-e megoldás, de idővel fény derül rá.
