A memóriapiacon jelenleg nagyon jó helyzetben vannak a nagy memóriagyártók, mint például a Samsung, a Micron, vagy éppen az SK hynix, ugyanis hónapokkal előre értékesítik memóriagyártó kapacitásaikat, annyira magas a kereslet a chipek iránt, hála az AI-láz okozta keresletnövekedésnek, ami egyre csak fokozódik.
A vállalatok a korábbi rossz tapasztalatok miatt most eléggé óvatosak gyártókapacitás-bővítés terén, ugyanis próbálják megtalálni azt az egyensúlyi pontot, ahol még nem billen át a piac a túlzott keresletből a túlzott kínálatba, utóbbi ugyanis alaposan lenyomja a memóriaárakat, ahogy erre már többször is volt példa az elmúlt évtizedek folyamán. A túlkínálat következtében a memóriagyártók veszteségeket termelnek, így nem tudnak megfelelő mennyiségű összegeket fordítani a fejlesztésekre, legyen szó gyártástechnológiákról, memóriatechnológiákról, vagy egyéb területekről.
Az SK Group elnöke, Chey Tae-won, aki az SK hynix irányításában is részt vesz, nemrégiben arra figyelmeztetett, ha a nagy memóriagyártó vállalatok, mint amilyen például az SK hynix, nem fordítanak elegendő figyelmet a memóriagyártó-kapacitás bővítésére, az idővel azt eredményezheti, hogy a vásárlók – a szűkös termelés és az abból fakadó drágaság miatt – elkezdenek kerülőutakat keresni, amelyek révén optimalizálható a memóriahasználat és kevesebb memóriával is meg tudják oldani a platformok és a szoftverek kiszolgálását.
A hatékonyabban működő rendszerekbe elméletben kevesebb memória szükséges, viszont az optimalizált működés következtében felszabaduló hardveres erőforrásokat jellemzően idővel úgyis elkezdi felhasználni a szoftver a terhelés fokozásával. Ha például az optimalizációk révén hatékonyabban sikerül kiszolgálni a mesterséges intelligenciával kapcsolatos token-igényt, akkor idővel több tokenre lesz szükség, ahogy a fejlődés folyik, vagyis összességében a hardver mindenképpen csúcsra lesz járatva.
Jelenleg az AI gyorsítók gyártói próbálnak annyi memóriát beszerezni, amennyit csak tudnak, hiszen az AI gyorsítók iránt óriási kereslet mutatkozik, szinte bármennyit el lehet adni, a szűk keresztmetszetet jelenleg a gyártókapacitás jelenti mind GPU chipek, mind pedig memóriachipek terén. A memóriagyártók közben a háttérben már dolgoznak a gyártókapacitás bővítésén, viszont a gyártósorok termelésbe állításáig jellemzően több évnek kell eltelnie, ezáltal a gyártókapacitás tényleges bővülésére elég sokat kell várni. Az SK hynix már rendelt nagyjából 20 darab Low-NA EUV gyártóeszközt a gyárbővítési terveihez, viszont ezek használatba vételéig több év fog eltelni, a folyamat ugyanis lassú.
Hogy a memóriahasználat optimalizálása és a memóriagyártó-kapacitás bővülése során sikerül-e egyensúlyi helyzetet találni kereslet-kínálat terén? Erre csak később kaphatunk választ, az viszont biztos, hogy az AI modellek fejlesztése egyre nagyobb hardveres erőforrást igényel, valamint az AI adatközpontok száma is fokozatosan emelkedik, így elég kicsi az esélye annak, hogy a közeljövőben túltermelésbe fordul a memóriapiac, kivéve, ha az újonnan épülő AI adatközpontok masszív energiaigényét egyre kevésbé sikerül kielégíteni, akkor ugyanis elkezdhet megtorpanni a lendület. Valamint az is kérdéses, hogy az AI-hoz kapcsolódó masszív beruházások megtérülése hogyan alakul majd, a korábbi elemzések ugyanis arra világítottak rá, a bővülés tempója túl nagy ahhoz, hogy a megtérüléshez szükséges árbevételeket is biztosítani lehessen, de ez már egy másik történet.