Az Nvidia AI és HPC piacra szánt gyorsítókártyái iránt még mindig óriási a kereslet, de a jelek szerint tovább enyhült a hiány a fél évvel ezelőtti állapothoz képest, azaz manapság már hamarabb H100-as gyorsítóhoz lehet jutni, igaz, nem sokkal. Míg legutóbbi, idén februári beszámolónkban 3-4 hónapos átfutási időről volt szó, már ami a rendelés leadását és a kész termék átvételét illeti, addig most már csak 2-3 hónapnyi várakozásra kell számítaniuk a megrendelőknek. Erről a Dell tajvani részlegének igazgatója, Terence Liao tett említést a DigiTimes munkatársainak a minap, aki azt is megerősítette, még mindig extrém magas az AI-képes hardverek iránti kereslet a szerverpiacon. Elmondása szerint az AI szerverek forgalma nagyobb, mint az általános célú szervereké, előbbieket ugyanis jobban keresik az üzleti felhasználók, hiába sokkal drágábbak, mint normál társaik.

Az a tény, hogy fél évvel ezelőtt még akár 11 hónap is eltelhetett a rendelés leadása és a H100-as gyorsítókból álló szállítmány átvétele között, mostanság pedig 2-3 hónapra csökkent a várakozási idő, azt mutatja, kezd enyhülni a hiány, és a jelek szerint az elkövetkező időszakban tovább csökkenhet az átfutási idő. Az év végéig akár minimális, néhány hetes szintre is csökkenhet, legalábbis a H100-as gyorsítók esetében. Nemsokára érkeznek a Blackwell alapú példányok is, amelyek irány egészen biztosan hasonlóan nagy kereslet mutatkozik majd, mint Hopper alapú társaik iránt, ugyanis a termékek óriási gyorsulást hoznak.

A hiány enyhülése részben annak köszönhető, hogy egyes vállalatok, akik extra raktárkészletet halmoztak fel H100-as gyorsítókból, megszabadultak a termékek egy részétől, újra értékesítették azokat, hogy a használaton kívüli termékek tárolásából fakadó költségeket ellensúlyozzák. A helyzet javulásában alighanem az AWS is segített, hiszen a vállalat egyszerűbbé tette az Nvidia H100 alapú GPU-k bérlését a felhőn keresztül, ezzel a lehetőséggel pedig sokan élnek, így tovább csökken a termékek iránti konkrét kereslet.

Ez persze sovány vígasz a kifejezetten nagy megrendelők számára, nekik a mostani várakozási idő is túl hosszú. Itt az olyan nagyvállalatokra kell gondolni, akik több tízezer vagy százezer darab gyorsítókártyát rendelnek ahhoz, hogy saját nagy nyelvi modelljeiket (LLM-eket) fejleszteni tudják. Ide tartozik például az ismert OpenAI, aki a ChatGPT-vel robbant be a köztudatba, és a háttérben gőzerővel fejleszti következő generációs technológiáit. Amennyiben a H100-as gyorsítók elérhetősége ilyen tempóban javul továbbra is, az mindenképpen jó hír lesz a nagy megrendelők számára is, hiszen sokkal gyorsabban teljesülnek majd megrendeléseik, mint a korábbi időszakban.0