Shop menü

AZ NVIDIA MEGMUTATTA SZUPERGYORS AI SZUPERSZÁMÍTÓGPÉP-FÜRTJÉT, AMI 4608 DARAB H100-AS GPU-BÓL ÁLL

Az új rendszert elsősorban AI és HPC jellegű munkafolyamatok gyorsítására használják.
Víg Ferenc (J.o.k.e.r)
Víg Ferenc (J.o.k.e.r)
Az Nvidia megmutatta szupergyors AI szuperszámítógpép-fürtjét, ami 4608 darab H100-as GPU-ból áll

Az Nvidia éppen a napokban lépett feljebb a képzeletbeli ranglétrán, már ami a vállalat piaci kapitalizációját illeti, ugyanis a részvényárfolyam szárnyalásának köszönhetően immár a negyedik legértékesebb cégnek minősül, már csak a Microsoft, az Apple, illetve a Saudi Aramco előzi meg, ahogy arról korábbi hírünkben beszámoltunk. Ezzel egy időben egy másik érdekességről és érkezett hír, ami szintén az Nvidiához kapcsolódik: a vállalat előrukkolt eddigi leggyorsabb szuperszámítógép-fürtjéből, a saját tervezésű és építésű EOS-szal, ami a szuperszámítógép-fürtök ranglistáján jelenleg a 9. helyet foglalhatja el, amennyiben a nyers FP64-es számítási teljesítményt vesszük alapul.

A főként üzleti felhasználókat kiszolgáló szuperszámítógép-fürtöt a tervek alapján egyéb piaci szereplők is megépíthetik majd, igaz, nem lesz olcsó a projekt, ugyanis igen-igen drága hardverkomponensekből épül fel a főként AI alapú feladatok gyorsítására szánt újdonság. Az EOS az Nvidia szerint összesen 576 darab DGX H100-as rendszerből épül fel, amelyek egyenként 8 darab Nvidia H100-as gyorsítót tartalmaznak. Az AI és HPC feladatok gyorsítására kifejlesztett H100-as gyorsítók mellé természetesen processzorokra is szükség volt, ezt a szerepet ezúttal 1152 darab Xeon Platinum 8480C típusú, egyenként 56 processzormagot tartalmazó megoldásra osztották.

A H100-as gyorsítókból egyébként összesen 4608 darab áll rendelkezésre. A rendszer összesen maximum 121,4 PetaFLOP/s-os dupla pontosságú, azaz FP64-es számítási teljesítmény elérésére képes, míg a HPC és az AI feladatok számára releváns FP8-as pontosság esetén már 18,4 ExaFLOP/s a maximális számítási teljesítmény. Előbbivel az EOS a 9. helyet foglalja el a normál szuperszámítógép-fürtök rangsorában, utóbbival azonban a leggyorsabb megoldások közé tartozik.

Az EOS a DGX SuperPOD architektúra köré épül, vagyis az Nvidia  Mellanox Quantum-2 InfiBand összekötőjét használja, amelyen keresztül 400 Gbps-os adatátviteli sávszélesség érhető el. A rendszer remekül skálázható, azaz további bővítésére is van lehetőség, amennyiben az igények ezt diktálják.

Az Nvidia szuperszámítógép-fürtje jelenleg a vállalat fejlesztőinek munkáját segíti, számos olyan feladatot és kutatást lehet vele elvégezni, amelyeket korábban egyszerűen nem lehetett megoldani. Szoftver terén egy olyan operációs rendszert alkalmaznak, ami kifejezetten AI feladatokhoz passzol, így számos AI jellegű feladat elvégzésére optimális, legyen szó ChatGPT-hez hasonló, nagy nyelvi modell köré épülő megoldásokról, vagy bármi egyébről, ami képes a generatív AI-ban rejlő lehetőségek kiaknázására.

Arról nem esett szó, hogy az EOS felépítése pontosan mekkora tőkeberuházást igényelt, és ezt igazából kiszámolni is nehéz, hiszen az Nvidia DGX H100-as rendszerei egyedi árazással kerülnek az egyes partnereknek, amit sok-sok változó befolyásol. Egy-egy H100-as gyorsító jellemzően 30 000 és 40 000 dollár közötti összegért kapható, attól függően, hány darabot rendel belőle az adott partner, vagyis csak a H100-as gyorsítók ára 161 280 000 dollár, amennyiben 35 000 dolláros darabárral számolunk…

Neked ajánljuk

    Tesztek

      Kapcsolódó cikkek

      Vissza az oldal tetejére