Egy ideje pletykálják, hogy a Microsoft Copilot szolgáltatása, ami AI alapon működik és jelenleg a felhőből fut, rövidesen helyben futó szolgáltatásként is elérhető lesz a Windows alapú rendszereken. Ahhoz persze, hogy a Copilot megfelelő teljesítménnyel működjön, a jelek szerint egy szintet is meghúz a Microsoft, vagyis legalább 40 TOP/s-os számítási teljesítményt kell felmutatnia az adott rendszerben található neurális feldolgozó egységnek (NPU), amit a következő generációs SoC egységek már teljesíteni fognak. Egyelőre még csak a Qualcomm Snapdragon X Elite képes ekkora AI teljesítményt felmutatni, de később az Intel és az AMD térfelén egyaránt megjelennek a hasonló szintű megoldások.
Az is kezd körvonalazódni, hogy az AI PC kategóriába való bekerüléshez milyen követelményeket kell teljesíteniük az egyes rendszereknek. Az Intel és a Microsoft által kidolgozott követelményrendszer alapján az AI PC-nek rendelkeznie kell NPU-val, CPU-val GPU-val Microsoft Copilot asszisztenssel, valamint egy dedikált Copilot gombbal is a billentyűzeten. Utóbbit a következő generációs noteszgépeknél és a komplett PC konfigurációknál viszonylag könnyű lesz teljesíteni, hiszen a friss termékek alapból megkaphatják a Copilot gombot, illetve NPU-val szerelt SoC egységekből és processzorokból is egyre több lesz. Az AI PC kategória első hullámának képviselőit már szállítják a PC gyártók, ám a 40 TOP/s-os számítási teljesítményt, ami a Copilot helyben történő futtatásához kellhet, még nem minden rendszer éri el. Az, hogy a Copilot konkrétan nem a felhőn keresztül, hanem a helyi hardveren fut, több szempontból is előnyös. Először is alacsonyabb a késleltetés, jobb lehet a teljesítmény, illetve az adatok védelme is hatékonyabb.
Teljesítmény terén a jelenlegi felhozatalt nézve azt láthatjuk, hogy a Meteor Lake SoC egységek NPU-ja 10 TOP/s-os teljesítményre képes, míg az AMD RYZEN Phoenix és Hawk Point APU egységei sorrendben 10 TOP/s és 16 TOP/s teljesítményre képesek. A Qualcomm Snapdragon X Elite alaposan kiemelkedik majd a mezőnyből ezen a téren, ugyanis a gyártó szerint 45 TOP/s-os számítási teljesítményre képes.
Mivel a lehető legjobb felhasználói élmény elérése a lényeg, a Copilot az NPU segítségével működhet, nem a GPU-t használja, utóbbi esetben ugyanis rendkívüli mértékben csökkenne az akkumulátoros üzemidő a mobil konfigurációk esetében. Az NPU bevetése azért is fontos, mert így sem a CPU, sem a GPU nem kap extra terhelést az AI feladatok kapcsán, más feladatokra lehet őket bevonni, az NPU pedig gondoskodhat arról a területről, ahol a legjobb teljesítmény és a legjobb energiahatékonyság mellett dolgozik.
Ahhoz persze, hogy az NPU-ban rejlő lehetőségeket ki lehessen aknázni, megfelelő szoftveres támogatásra is szükséges, amihez kellően nagy piacot képviselő hardverkategória szükséges. Mivel az Intel 100 millió AI PC leszállítását tervezi 2025-ig bezárólag, a fejlesztők számára valószínűleg elég vonzó lesz az új szegmens ahhoz, hogy AI funkciókkal teletűzdelt alkalmazásokat készítsenek, amelyek az NPU-ra támaszkodva nyújtanak újszerű felhasználói élményt, nagyobb teljesítményt, illetve új lehetőségeket. A fejlesztők közül az Intel szerint 65% gondolkodik a vállalat OpenVino platformjában, vagyis az általuk készített alkalmazások kifejezetten optimálisan futnak majd az Intel hardverein. A többi fejlesztő az ONNX, a DirectML, illetve a WebNN segítségével integrál AI alapú funkciókat a különböző alkalmazásoknak, és az Intel csapata természetesen ennek is örül, hiszen segítenek az AI terjedésében.
Maga a Microsoft Copilot a DirectML használatával működik, akármelyik gyártó NPU-járól legyen szó. Az AI alapú asszisztens futása természetesen annál jobb lesz, minél nagyobb teljesítményű NPU-hoz férhet hozzá, és ez az egyéb alkalmazások többségénél is így lesz, ennek megfelelően egyre nagyobb hangsúlyt kap majd a SoC egységekbe épített NPU teljesítménye. Ez természetesen marketing szintjén is megmutatkozik majd: előszeretettel emelik majd ki az egyes gyártók az NPU teljesítményét, már amennyiben az jobb, mint a riválisoké.
