A mesterséges intelligencia egyre több és több területre szivárog be, és a jövőben még nagyobb teret hódíthat magának, ugyanis az év közepén elrajtol az AI PC kategória, ahogy azt korábban az ASUS egyik illetékese már jelezte. Az AI PC lényegében olyan konfigurációt takar, ami rendelkezik valamiféle hardveres gyorsítóval az AI jellegű munkafolyamatok zökkenőmentes elvégzéséhez, legyen szó videokártyáról, iGPU-ról, megfelelő utasításkészleteket támogató processzorról, vagy éppen beépített NPU-val ellátott SoC egységről. Az AI térhódításának köszönhetően egyre több és több szoftveres funkció és szolgáltatás válhat még ütőképesebbé és sokoldalúbbá, erre az időszakra viszont már most fel kell készíteni őket a megfelelő szoftveres támogatással.

A felkészítésben aktívan részt vesznek a különböző nagy szoftverfejlesztők, de a kisebb alkalmazások fejlesztői is profitálhatnak majd az újításból. A Microsoft Windows fejlesztőcsapata a korábbi hírek szerint éppen azon dolgozik, hogy az Intel és az AMD új generációs processzoriban található NPU-t a Windows is megfelelően támogassa, a sikerhez ugyanakkor az egyes gyártók is hozzájárulhatnak saját termékeiket támogató nyílt forráskódú könyvtáraikkal, illetve szoftverfejlesztő környezeteikkel. Az Intel csapata éppen a minap adott ki egy új szoftvert, ami kifejezetten a szoftverfejlesztőket célozza. A nyílt forráskódú NPU Acceleration Library már elérhető az érdeklődők számára, így időben felvértezhetik különböző alkalmazásaikat az Intel Meteor Lake processzorok fedélzetén található NPU támogatásával.

Maga a könyvtár Pyhton nyelven íródott és az Intel fentebb említett termékeiben rejlő lehetőségek maximális kiaknázása érdekében készült. Egyelőre csak a Meteor Lake sorozat NPU-jához jár támogatás, később azonban várhatóan a mobil központú Lunar Lake, valamint a mobil és asztali környezetben egyaránt megjelenő Arrow Lake modellek NPU-ját is támogatni fogja. Az Intel szakembere, Tony Mongkolsmai kifejtette, ez a könyvtár elsősorban arra jó, hogy a Gamma-2b és TinyLlama alapú kompakt nyelvi modelleket használó szoftvereket gyorsítja, méghozzá helyben, a dedikált hardver segítségével.

A könyvtár elméletben arra is lehetőséget ad, hogy helyben futó AI alapú chat alkalmazások készüljenek, méghozzá viszonylag egyszerűen, felhő alapú infrastruktúra nélkül. Ez a lehetőség sok területen nyithat meg új kapukat a szoftverfejlesztők előtt, hiszen számos új funkcióval vértezhetik fel alkalmazásaikat. Ilyen helyben futó AI chatbotot már az Intel is bemutatott a Meteor Lake sorozat rajtjakor. A lenti képen élesben is látható, hogyan használja az NPU Acceleration Library az MSI Prestige 16 AI EVO noteszgép fedélzetén található NPU-t.

A könyvtár még nem teljes, fejlesztése még zajlik, de már így is érdemes kipróbálniuk a fejlesztőknek. Azt persze fontos kiemelni, hogy a könyvtár nem végfelhasználók számára készült, őket a DirectML és az OpenVINO köré épített eszközök veszik célba.

Az Intel NPU Acceleration Library innen szerezhető be.