Az AI szegmens óriási növekedést produkált az elmúlt időszakban, ami a nagy nyelvi modellek (LLM-ek) és a generatív AI térhódításának köszönhető, ennek megfelelően az AI és HPC piacra szánt GPU alapú gyorsítók iránt is megnőtt a kereslet, méghozzá alaposan. Érthető, hogy ezt a nagy változást nehezen követi le az ellátási lánc, illetve a félvezetőipari bérgyártók termelőkapacitása, pont emiatt van hiány például az Nvidia AI és HPC piacra készített gyorsítókártyáiból. Természetesen egyéb piaci szereplők is jelen vannak a szegmensben, mint például a Google, az AMD és az AWS, az általuk kifejlesztett gyorsítók pedig ugyanúgy HBM alapú fedélzeti memóriát használnak, hiszen a HBM jóvoltából hatalmas memória-sávszélességre lehet szert tenni, ez pedig a fentebb említett terhelésformák esetében kulcsfontosságú szempont.
A HBM lapkák a TSMC CoWoS tokozási technológiájával kerülnek fel az adott gyorsítókártyák GPU-jára, vagyis nemcsak a megnövekedett GPU gyártás, de a tokozással kapcsolatos megnövekedett feladatmennyiség is kihívást jelenthet a tajvani félvezetőipari bérgyártó vállalat számára. A friss hírek szerint úgy tűnik, gyártókapacitással még csak-csak győzi a vállalat, viszont a CoWoS kapacitással már hadilábon állnak, annyira megnőtt a kereslet az év eleje óta. A TSMC elnöke, Mark Liu szerint a CoWoS gyártókapacitás iránti kereslet háromszorosára nőtt a korábbinak, éppen ezért ez jelenti a szűk keresztmetszetet, már ami a befutó megrendelések teljesítését illeti. Szerinte jelenleg a TSMC nem képes a megrendelések 100%-át teljesíteni, nagyjából 80%-os teljesítési arányról lehet beszélni, de ez egy átmeneti jelenség. Rögtön azután, hogy a fejlett chiptokozó kapacitást bővítik, a helyzet javulni fog, ám a javulásra a dolgok jelenlegi állása szerint nagyjából másfél esztendőt kell még várni.
A TSMC az Nvidia videokártyák GPU-i mellett az Nvidia A100-as, A800-as, H100-as és H800-as lapkáit is gyártja, amelyek iránt hatalmas kereslet mutatkozik az adatközpontok szegmensében. Ezek a gyorsítók gyakorlatilag egyeduralkodók az AI és a HPC szegmensben, ami remek teljesítményüknek köszönhető, márpedig az éppen tapasztalható AI-boom esetében pont erre, azaz a teljesítményre van szükség, méghozzá minél nagyobb mennyiségben. A TSMC-t ez az óriási keresletnövekedés váratlanul érte, mivel arra nehéz felkészülni, hogy a megrendelések száma éves szinten rövid időn belül háromszorosára emelkedik a CoWoS tokozással foglalkozó üzemegységek terén.
A CoWoS kapacitás bővítése természetesen megkezdődött, ám ez nem egy egyszerű feladat, a bővítésnek van átfutási ideje, ami nagyjából másfél év. A tervek szerint 2024 végére duplájára emelkedhet a CoWoS kapacitás, ami segíthet a különböző gyorsítókártyák elérhetőségének jelentős javításában. Ha addig még tovább növekszik a kereslet, akkor persze nem lesz elegendő a kapacitás-duplázás, további bővítéseket is eszközölnie kell a vállalatnak, de ez már egy másik történet.