A nagy nyelvi modellek (LLM-ek) tréningezése iránt egyre nagyobb az igény, ugyanis a köréjük épülő megoldások népszerűsége hatalmas tempóban növekszik, ennek megfelelően a tréningezésre használható hardverekből is egyre többre és többre lesz szükség. A legnagyobb érdeklődés a GPT-t(Generative Pre-trained Transformer-t) övezi, igaz, néhányan kongatják a vészharangokat is a technológiával kapcsolatban, de ez már egy másik történet. Az biztos, hogy az LLM tréningezéshez kapcsolódó hardverek egyre keresettebbek, egyre több nagyvállalat szeretne GPU alapú gyorsítókra támaszkodó rendszerekbe fektetni.

Ez a legtöbb térségben viszonylag zökkenőmentesen kivitelezhető, amennyiben rendelkezésre áll a megfelelő tőke a beruházás elvégzéséhez, ám Kínában már nem ilyen egyszerű a helyzet, hála az Amerikai Egyesült Államok kormányzata által bevezetett kereskedelmi szankcióknak. Az aktuális szabályozás értelmében az A100-as és a H100-as gyorsítókártyákat már nem szállíthatja az Nvidia, azok ugyanis átlépik a korlátozásban megszabott limiteket, éppen ezért a vállalat A800 és H800 névvel speciális, az exportkorlátozásoknak maradéktalanul megfelelő termékeket készített, kifejezetten Kínára szabva. Ezeknél a termékeknél az alapvető specifikációk megegyeznek az alapmodellekével, ám az NVLink esetében korlátozott sávszélesség áll rendelkezésre. A H800-nál ez azt jelenti, hogy a szokásos 600 GB/s helyett csak 300 GB/s a chipek közötti adatátviteli sávszélesség, míg az A100 esetében a 600 GB/s helyett 400 GB/s-os érték áll rendelkezésre.

Eddig nem igazán lehetett tudni, hogy az új gyorsítókártyák hogyan teljesítenek az alapmodellekhez képest, nemrégiben azonban fény derült a legfontosabb részletekre. Az A800-as GPU-val szerelt rendszerek a tesztek szerint nagyjából az A100 alapúak teljesítményének 30%-át adják, viszont az egy kártyára jutó nyers teljesítmény gyakorlatilag azonos. Mind az A100, mind pedig az A800 esetében 9,7 TFLOP/s-os egyszeres pontosságú (FP32-es), illetve 19,5 TFLOP/s-os dupla pontosságú (FP64-es) számítási teljesítmény áll rendelkezésre. A lassulást nem is ez okozza, hanem az alacsonyabb interconnect-sávszélesség, illetve az is limitáló tényező, hogy az A800-as gyorsítókártyákból maximum 8 működhet együtt, míg az A100 esetében 16 volt a limit.

Az Nvidia szerint Kína hatalmas piac gyorsítókártyák terén, gyakorlatilag 400 millió dolláros megcélozható szegmensről van szó, vagyis azzal, hogy az A100-as modellből készítettek egy Kínára szabott, az exportszabályoknak megfelelő változatot az A800 formájában, még mindig profit reményében vehetik célba az óriási piacot. A MyDrivers beszámolója szerint az A800-as gyorsítókártyák 100 000 kínai jüanos áron kaphatóak, ami nagyjából 14 500 dolláros árat jelent. Az persze nem derült ki a beszámolóból, hogy az össze a 40 GB-os vagy a 80 GB-os modellt takarja-e.

Érdekes adalék lesz, ha fény derül arra is, a H100-as modellből készített H800-as gyorsítókártya a felezett sávszélességű NVLink csatolóval karöltve mekkora teljesítményt nyújt és mennyibe kerül. Utóbbi már nem az Ampere, hanem a Hopper architektúra köré épül, így jelentősen nagyobb számítási teljesítményt kínál.