Az Nvidia háza táján gőzerővel zajlik az AI és HPC piaci gyorsítók fejlesztése, ami igazából érthető is, hiszen az AI-láz következtében óriási a kereslet az efféle termékekre, ami jókora árbevételt és óriási profitot hoz az Nvidia konyhájára – ezért is próbálják addig ütni a vasat, amíg az izzik. A háttérben már több piaci szereplő is próbál saját igényeire szabott AI gyorsítókat fejleszteni, ami idővel azt eredményezheti, hogy az Nvidia termékei iránt csökkenhet a kereslet, ám ez nem a közeli jövőben lesz, legalábbis az aktuális jelek alapján ilyesmire egyelőre nem igazán lehet számítani.

A Blackwell alapú AI gyorsítók, vagyis a B100-as, B200-as, illetve GB200-as modellek szállítása éppen zajlik, még ha nem is akkora volumenben, amekkorában a vállalat szeretné. Az aktuális generáció rajtja nem indult valami zökkenőmentesen, a dizájnba hiba csúszott, amire a TSMC mutatott rá, majd ezt kijavították, az Nvidia vezére pedig el is ismerte, valóban voltak komplikációk a Blackwell sorozat pályafutásának elején. A megrendelők kiszolgálása tehát már zajlik, az új generációs AI gyorsítók hatalmas teljesítményt kínálnak előző generációs társaikhoz képest, és ezt a teljesítményt még az adott családon belül növelni fogja a vállalat, hála a Blackwell Ultra kódnévre keresztelt fejlesztésnek, ami a B300 és a GB300 alapjául szolgál majd.

A B300-as AI gyorsító a legfrissebb hírek szerint igencsak komoly előrelépést hoz majd memória-alrendszer terén, ami annak köszönhető, hogy a HBM3E chipeket modernebb, fejlettebb változatokra cserélik: a 8-Hi felépítésű memóriachip-szendvicsek helyét a 12-Hi felépítésű példányok veszik át. Ez gyakorlatilag annyit jelent, hogy egy-egy memóriachip-szendvicsben nem 8, hanem 12 darab HBM3E típusú memórialapka foglal helyet, ennek köszönhetően a korábbi 192 GB-os memóriakapacitás egészen 288 GB-ra növekedhet, amiből természetesen profitálhatnak majd a nagy nyelvi modellek (LLM-ek).  A B300-as GPU a B200-hoz képest természetesen TDP keret terén is változni fog: a megszokott 1000 W-os TDP keret várhatóan 1400 W-ra emelkedhet. A nagyobb memóriakapacitás mellett a számítási teljesítmény növekedése is a pozitívumok listájára írható, ugyanis a várakozások szerint FP4-es műveletek terén 1,5-ször nagyobb teljesítményt tud majd felmutatni a B300, mint a B200

A B300-as GPU segítségével GB300-as SuperChip is készülhet, ami két ilyen chipet tartalmaz majd. A memória-alrendszer továbbfejlesztésének köszönhetően a 384 GB-nyi maximális memória-kapacitás 576 GB-ra növekedhet, ami jelentősen kibővíti majd a lehetőségeket. A nagyobb teljesítmény mellé persze átdolgozott hűtés is dukál, amit fejlett folyadékhűtő blokkok, illetve hatékony gyorscsatlakozókkal ellátott szettek alkotnak.

A hírek szerint fejlődik még a hálózati kommunikációt biztosító részleg is, ami eddig ConnectX 7 típusú hálózati kártyákra támaszkodott: ezeket ConnectX 8-as modellek váltják, valamint az optikai modulokat is lecserélik, amelyek 800 Gbps helyett immár 1,6 Tbps sebesség elérésére képesek. A GB300 alapú NVL72-es szekrények esetében szabványosított kondenzátortálca is rendelkezésre áll, amihez opcionális akkumulátoros rendszer is társulhat (BBU – Battery Backup Unit).

Egy-egy ilyen BBU modul várhatóan 300 dollárt kóstál, míg a komplett szettért 1500 dollárt kérhetnek el. A szuperkondenzátor-részlegben 300-nál is több egység helyezkedhet el, ezek egyenként 20-25 dollárba kerülnek, és akkor jönnek jól, ha hirtelen nagy teljesítményre van szükség – a terhelés-csúcsok kisimításában segíthetnek. A GB300 révén egy érdekes újítás is bekerül, ami nem más, mint a noteszgépek piacáról már ismert LPCAMM memóriamodul, ami a jelek szerint nemcsak a laptopok és az asztali számítógépek, hanem a szerverek szegmensében is felbukkanhat. A pontos dizájnnal kapcsolatban egyelőre nincs információ, de remélhetőleg arra is rövidesen fény derülhet.

Hírlevél feliratkozás
A feliratkozással elfogadom a Felhasználási feltételeket és az Adatvédelmi nyilatkozatot.

20 hozzászólás

A komment írásához előbb jelentkezz be!
GeriBátyó
GeriBátyó
2024. dec. 30. 2:33
#4

Elmebeteg irányba mennek már a fogyasztással. Kíváncsi vagyok, hogy mikor fog a piac besokallni, hogy ez már sok és egyszer csak nem vesznek egy terméket.

BiroAndras
BiroAndras
2025. jan. 3. 21:01

@thedeveloper

A chip-enkénti fogyasztás mellékes ebben a kategóriában, csak az adott számítási teljesítményre jutó fogyasztás számít. Utóbbi befolyásolja például, hogy mennyibe kerül a ChatGPT egy válasza.

És a chip-ek fogyasztása csak nőni fog. Az egyetlen limit a hűtés, ami szintén fejlődik.

Gpety
Gpety
2024. dec. 29. 10:29
#3

Azt várom már,  hogy valaki kitalálja az AI-t, amit bányászni kel...

punchman
punchman
2025. jan. 2. 2:42

@kvcsbay

Nem akarom nagyon elrontani a gondolatmenetet, de az AI eleve adatbányászatra épül.

thedeveloper
thedeveloper
2024. dec. 29. 10:01
#2

Mondjuk 1400W-os TDP kerettel nem büszkélkednék.

Az otthoni porszívóm például 1900W-os.

Az lenne a hír, ha a mostani számítási teljesítményt mondjuk 10W fogyasztással tudná biztosítani. De mindegy.

thedeveloper
thedeveloper
2024. dec. 29. 17:18

@Mosdatlan_falusi Kevesebből is, hiszen a porszívót nem arra tervezték, hogy számításokat végezzen. :)
De ugye nem ez volt a lényeg.

hunspirit
hunspirit
2024. dec. 29. 8:04
#1

RIP AMD!

Kirby
Kirby
2024. dec. 29. 18:07

már megint :(

Vissza az oldal tetejére