Az ARM vezetése korábban már pedzegette, idővel saját fejlesztésű processzorral szeretnének berobbanni az adatközpontok szegmensébe, ezáltal lényegében nemcsak az x86-os szerverprocesszoroknak, hanem saját technológiáikat és szellemi tulajdonaikat licencelő iparági partnereknek is konkurenciát teremtenek valamilyen szinten. A belépéshez szükséges processzor már el is készült, be is jelentették, az első mintapéldányok el is érhetőek a partnerek számára.
Az új fejlesztés az ARM AGI CPU nevet viseli, feladata pedig elsősorban az, hogy az ügynöki AI feladatok futtatásához megfelelő teljesítményt biztosítson a rendszer számára és hatékonyan együttműködjön az adott szerver fedélzetén dolgozó AI gyorsítókkal is. Az ARM AGI CPU 3 nm-es osztályú csíkszélességgel készült és összesen maximum 136 darab processzormagot foghat munkára, amelyek Neoverse V3 típusú megoldások. A 300 W-os TDP kerettel gazdálkodó processzor magonként 6 GB/s-os memória-sávszélességgel dolgozhat és 100 ns alatti késleltetést biztosít, ami versenyképesnek hangzik.
A processzormagok az ARM szerint egyenként csak egyetlen egy dedikált programszálat kezelnek, ami azért előnyös, mert folyamatos terhelés alkalmával így nem lesznek üresjáratban lévő szálak, illetve a nem optimális működésből fakadó teljesítménycsökkenés (throttling) is elkerülhető. A memória-alrendszert chipenként akár 6 TB-nyi DDR5-8800 MT/s sebességű memóriamodul vagy memóriachip is alkothatja, de ezzel egy időben chipenként 96 darab PCI Express 6.0-s sáv is rendelkezésre áll, valamint CXL 3.0 és AMBA CHI támogatást is elérnek a partnerek.
Az új processzorokkal igen komoly teljesítménysűrűség érhető el, ugyanis míg a léghűtéssel ellátott rendszereknél egy rack akár 8160 processzormagot is tartalmazhat, addig folyadékhűtés bevetésekor az elérhető magszám akár 45 000 darab fölé is tornázható. Az ARM szerint ez azért fontos, mert az adatközpontok szegmensében a jelenlegi processzorteljesítményhez képest gigawattonként több, mint négyszer akkora processzorkapacitásra lenne szükség ahhoz, hogy az adatközpont működése optimális lehessen és a processzorok ki tudják szolgálni az AI gyorsítók igényeit.
Az ARM csapata azt is kiemelte, hogy az x86-os architektúra köré épülő processzorok túl magas overhead mellett dolgoznak, azaz túl sok teljesítmény megy kárba, valamint túlságosan komplexek is az újfajta munkafolyamatok hatékony kezeléséhez. Beszédes adat, hogy az ARM alapú processzorokkal több, mint kétszer nagyobb teljesítmény érhető el egy rackre vetítve, mintha x86 alapú processzorokat használnának, ez pedig nemcsak azért fontos, mert ezáltal jelentősen növelhető a teljesítménysűrűség, hanem azért is, mert így egy gigawattnyi AI adatközpont kapacitás esetében akár 10 milliárd dollárnyi megtakarításra is lehetőség nyílik. A megspórolt összeget további számítási kapacitásra vagy egyéb, az adott üzletmenethez kapcsolódó kiadásokra lehet fordítani.
Az ARM munkáját a Meta csapata is segítette társfejlesztői pozícióban, a kész ARM AGI CPU pedig a Meta adatközpontjaiban is fontos szerepet kap majd, ahol a Meta saját fejlesztésű MTIA gyorsítóival karöltve dolgoznak majd a különböző platformok AI feladatainak koordinálásában. Az ARM persze nemcsak a Meta adatközpontjaiba juttathatja el új fejlesztését, egyéb partnerek is érdeklődnek az első ARM adatközpont-processzor iránt: jelen van köztük egyebek mellett az Open AI, a Cerebras, az SAP, az SK Telecom, illetve a Cloudflare is.
Az új processzor köré számos OEM partner épít majd rackeket és egyéb termékeket, mint például a Supermicro, a Quanta, az ASRock Rack, illetve a Lenovo is. Ezzel egy időben egy meglehetősen nagy, 50-nél is több vállalatból álló ökoszisztéma is kiépült az új processzor köré, amelynek támogatói között a Google, a Microsoft, a Samsung, a Micron, a TSMC, illetve az AWS egyaránt jelen van.
Az ARM AGI CPU első mintapéldányai már elérhetőek a partnerek számára, míg szélesebb körben az év második felében szállíthatják őket, illetve a velük felszerelt komplett rackeket.
