A SAMSUNG SZERINT SAJÁT AI GYORSÍTÓJA 8X ENERGIAHATÉKONYABB, MINT AZ NVIDIA H100

A kissé meglepő kijelentést a belsős adatokra alapozzák, ám az új termékkel kapcsolatban eléggé szűkszavúak maradtak a felek, már ami a pontos felépítését és tulajdonságait illeti.
Víg Ferenc (J.o.k.e.r)
Víg Ferenc (J.o.k.e.r)
2023. dec. 22. 14:25
A Samsung szerint saját AI gyorsítója 8x energiahatékonyabb, mint az Nvidia H100

Az AI gyorsítók szegmense rendkívüli módon pezseg, hála annak, hogy a mesterséges intelligencia iránti igények egyre növekednek a különböző piaci szegmensekben, kiszolgálásukhoz pedig rengeteg gyorsítóra van szükség, legyen szó mesterséges neurális hálózatok tréningezéséről, vagy éppen dedukcióról.

Ebben a szegmensben jelenleg egyértelműen az Nvidia térfelén pattog a labda, a vállalat 70% körüli piaci részesedéssel büszkélkedhet, ám a háttérben már készülnek a házon belül fejlesztett, a saját igényeknek maximálisan megfelelő AI gyorsítók is a különböző nagyvállalatok műhelyeiben. Egyebek mellett a Samsung is végez ilyen irányú fejlesztéseket, méghozzá egy nagy névvel, a Naverrel együttműködve, ugyanis utóbbi vállalat csapata igencsak komoly tapasztalattal rendelkezik e szegmensben.

Galéria megnyitása

A BusinessKorea beszámolója alapján a Samsung és a Naver csapata által kifejlesztett első AI gyorsító a belsős mérések szerint nyolcszor jobb energiahatékonyság mellett üzemel, mint az Nvidia AI és HPC piacra szánt gyorsítói, ami igencsak jól hangzik. Az első hardver egy FPGA (Field-Programmable Gate Array) alapú megoldás, ami kifejezetten dedukciós feladatokra készült és a Naver HyperCLOVA X nagy nyelvi modelljéhez passzol. Ez a megoldás az Nvidia H100-as gyorsítójához képest nyolcszor energiahatékonyabban dolgozhat, hála annak, hogy az FPGA mellé LPDDR szabványú memóriát társítottak. Sajnos azt nem részletezték, pontosan milyen paraméterekkel rendelkezik az új platform, valamint az is rejtély, a két vállalat együttműködéséből született hardver végül kereskedelmi forgalomba kerül-e, és ha igen, mikor.

A Samsung és a Naver csapata lényegében 2022 óta folytat együttműködést, amelynek keretén belül a Samsung fejlett gyártástechnológiáira, illetve a vállalat legmodernebb technológiáira támaszkodó termékek fejlesztését végzik. Utóbbiak közé tartoznak a memóriában elhelyezett feldolgozók (PIM), a memória mellett elhelyezett feldolgozók (PNM), valamint a CXL alapú megoldások is, a Naver részéről pedig a szoftverek és az AI algoritmusok teszik teljessé a képet.

Galéria megnyitása

Jelenleg már több olyan terméket is kínál a Samsung, amelyekre szükség van az AI alapú feladatoknál, például SmartSSD típusú adattárolókat, HBM-PIM chipeket, valamint olyan memóriabővítőket is, amelyek a CXL protokollt használják. Igazából ezek, vagyis a memória alapú termékek kifejezetten nagy jelentőséggel bírnak az AI alapú gyorsítók esetében.

Az együttműködés keretén belül készülő termékekkel kapcsolatban remélhetőleg hamarosan további részletekre is fény derülhet.

Hírlevél feliratkozás
A feliratkozással elfogadom a Felhasználási feltételeket és az Adatvédelmi nyilatkozatot.

5 hozzászólás

A komment írásához előbb jelentkezz be!
ZSORRO
ZSORRO
2023. dec. 23. 19:22
#2

Mivel gondolom a saját cuccuk csak a nekik kellő dolgokat kezeli, így hatékonyság tekintetében simán jobb lehet! Ami persze nem azt jelenti, hogy sokkal jobb/gyorsabb is!

tomchee
tomchee
2023. dec. 22. 23:22
#1

Az én rx6600 as és Gtx1650 es kártyám is 6* energia hatékonyabb mint egy 4090!

Just saying....

BiroAndras
BiroAndras
2023. dec. 25. 20:47

@tomchee

Mivel a hozzászólásod alapján nem vagy tisztában vele.

Vissza az oldal tetejére