A ByteDance, a TikTok mögött álló nagyvállalat a legújabb iparági információk szerint AI gyorsítókra szánt GPU-k fejlesztésébe kezdett, amelyekkel az a célja, hogy az Nvidia termékeitől és ökoszisztémájától való függőséget mérsékelje. A hírek alapján az új AI GPU-k sorozatgyártása akár már 2026 folyamán megindulhat, a félvezetőipari bérgyártó pedig természetesen a tajvani TSMC lesz. Az új chipek fejlesztése jelenleg még zajlik, így az sem biztos, hogy végül sikerül tartani a kitűzött ütemtervet, azaz 2026 után is érkezhetnek a termékek.
A háttérben ráadásul nem is egy, hanem rögtön kétféle AI GPU is készül, amelyek alkalmazás-specifikusak lesznek: az egyik az AI tréning szakaszával kapcsolatos munkafolyamatait gyorsítja majd, míg a másik a dedukciós feladatok gyorsabb elvégzésében nyújthat segítő jobbot. A fejlesztőmunka oroszlánrészét persze nem a ByteDance, hanem a Broadcom tapasztalt csapata végezheti. Utóbbiak már készítettek AI chipeket a Google számára, azaz nem ismeretlen számukra ez a terület. Arról sajnos nincs információ, hogy az új AI gyorsítók nagyságrendileg milyen teljesítményszintet céloznak majd meg, az viszont sejthető, hogy gyártásukhoz a TSMC N4-es vagy N5-ös csíkszélességeinek valamelyikét vethetik be. Ez azt jelentheti, hogy az új AI gyorsítók az Nvidia Blackwell sorozata által használt 4NP-hez hasonló csíkszélességgel készülhetnek, de majd csak valamikor 2026 folyamán, így alkalmazásuk is akkoriban indulhat.
A ByteDance elég nagy megrendelőnek mondható, az utóbbi időszakban 200 000-nél is több Nvidia H20-as AI gyorsítót vásároltak, méghozzá 2 milliárd dollárnál is magasabb értékben. Ez azt jelentheti, hogy egy-egy ilyen termék ára valahol 10 000 dollár magasságában helyezkedhetett el, ami a 12000-13000 dolláros normál árhoz képest jelentősen kedvezményesebb. A rendeléssel van egy elég nagy probléma: a H20-as AI gyorsítók szállítása még folyik, többségükre egyelőre még várnia kell a vállalatnak, ami nem egy ideális helyzet, hiszen nagy szükség lenne rájuk. Egyébként ez a befektetés is remekül szemlélteti, mennyire nagy jelentősége van a mesterséges intelligenciának a ByteDance általános stratégiájában.
A „saját fejlesztésű” AI GPU-kra azért is van szükség, mert az Nvidia AI gyorsítói egyrészt drágák, másrészt eléggé sokat kell várni rájuk. A H20-as modell egyébként pont a kínai megrendelők kedvéért készült, az ugyanis minden tekintetben megfelel az amerikai exportkorlátozások által szabott kereteknek. Cserébe eléggé vissza lett vágva a teljesítmény, ugyanis míg a H100 esetében az INT8/FP8-as teljesítmény 3958 TOPs/TFLOPs szintet képvisel, addig ugyanez a H20-nál már 296 TOPs/TFLOPs szinten helyezkedik el. A BF16/FP16 számítási feladatok esetén a H100 1979 TFLOPs, míg a H20 csak 148 TFLOPs számítási teljesítmény felmutatására képes. Ennek ellenére ez még mindig egy jó ajánlat a maga 96 GB-nyi HBM3-as fedélzeti memóriájával, amihez akár 4 TB/s-os memória-sávszélesség társul, ráadásul a gyorsító nyolcutas rendszerek építésére is használható.
A fenti teljesítményszintekkel aligha tud versenyezni a ByteDance és a Broadcom, részben az amerikai exportkorlátozások miatt, ugyanis azok a friss fejlesztésekre is vonatkoznak, cserébe viszont költséghatékonyabban oldhatják meg az AI feladatok gyorsítását, ami összességében nagy előny. Ehhez persze le kell küzdeni egy nagy kihívást: saját szoftveres ökoszisztémát kell fejleszteni, hiszen most az Nvidia CUDA ökoszisztémájára támaszkodnak, amivel a „saját fejlesztésű” AI gyorsítók nem lesznek kompatibilisek. Az Nvidia AI gyorsítóira bizonyos területeken továbbra is szükség lesz, teljesen egyelőre biztosan nem tudják kiváltani őket a kínaiak, de az Nvidia termékeitől való függőséget némileg csökkenthetik.
