A DeepSeek által fejlesztett nyelvi modell és generatív MI eszköztár komoly változásokat indíthat el az egyébként is magas fordulatszámon pörgő mesterséges intelligencia ágazatban. Eddig arról lehetett hallani, hogy a cég közönséges Nvidia gyorsítókat használ a modellek üzemeltetésére és tréningezésére is, de most egy friss hír szerint a történet nem ennyire egyszerű.
Kínában napjainkban a vállalatok nem férhetnek hozzá azokhoz a legmodernebb, teljes értékű MI gyorsítókártyákhoz, amiket az Nvidia szállítani képes a nyugati vállalatok számára. Éppen ezért eleve eléggé ködös, hogy pontosan milyen hardvereket használ a cég. Korábban arról lehetett hallani, hogy gyengébb képességű Nvidia GPU-k munkálkodhatnak a színfalak mögött, egy az X-en megjelent beszámoló viszont már némiképp mást állít.
A Liang Wenfeng által alapított vállalat kapcsán az a hír járta, hogy 2000 darab Nvidia H800-at használ, illetve szó volt arról is, hogy a rendelkezésére áll egy jelentősebb Nvidia A100 klaszter is. Ezeken felül viszont a cég a jelek szerint Huawei gyorsítókat is alkalmazhat, hogy megfelelő teljesítményt, valamint hatékonyságot tudjon elérni a különböző szolgáltatásai révén.
A Huawei Ascend 910C MI gyorsítót alkalmazhatja a DeepSeek az érvelési feladatok, egyéb munkafolyamatok végrehajtására.
A helyzet jelenleg tehát úgy fest, hogy a tréningezéshez és más korábbi, nagy számítási kapacitást igénylő feladatokat korábban a DeepSeek csapata valóban Nvidia gyorsítókártyákkal oldotta meg, most azonban már a Huawei termékei is kiveszik a részüket a munkából. Hogy miért nem eleve az Ascend 910C-et használta a cég a tréningezéshez is? Nos, lehetett olyan találgatást olvasni, hogy ahhoz valószínűleg nem volt erős, de az is magyarázatot jelenthet, hogy egész egyszerűen nem volt ilyen megoldás. A korábbi információk szerint az Ascend 910C tömeggyártása mostanában indulhatott el, a DeepSeek talán eleve korai egységeket használ.
Ahogy arról korábban beszámoltunk, a Huawei az Ascend 910C-t az Nvidia H1000 riválisának szánja. A fejlesztésre az ösztönözte a Huawei-t, hogy az amerikai szankciók miatt az Nvidia MI gyorsítók beszerzése nagyon nehéz lett Kínában, vagyis megnőtt az igény a helyben korlátlanul elérhető, megfelelő teljesítményű alternatívára. Ráadásul az Nvidia extrém árképzése is segítheti a Huawei-t, akár még egy rendkívül drága chipet is képes lehet nyereségesen értékesíteni.
A friss információk szerint az Ascend 910C még nincs elemében, van azért hátránya a teljesítményben, és a nagyobb klaszterek esetén az MI chipek teljesítményének összehangolása is kihívást jelent. Állítólag már készül az utódként szolgáló 920C, ami egy komoly előrelépést jelenthet minden szempontból.
Viszont a pletykák szerint a DeepSeek a következő V4 nagy nyelvi modellt mégis az Ascend 910C-vel tréningezheti, erre a feladatra 32 ezer Huawei gyorsítókártyát foghat be.
Amennyiben ez a hír igaz, az már eléggé fájó lehet az Nvidia számára. Eddig még csak úgy tűnt, hogy azért gond neki a DeepSeek R1 felbukkanása, mert ez alapján sokkal kevesebb Nvidia kártyára lehet szükség a korábban véltnél, de most már úgy fest, hogy talán nem is feltétlenül kellenek az Nvidia chipek. Egyelőre még azért eléggé ködös a DeepSeek hardveres háttere, kíváncsian várjuk a további információkat ennek kapcsán.
