Az ASUS fejlesztőcsapata elkészítette a vállalat első USB-s AI gyorsítóját, ami a UGen300 nevet viseli és eléggé impresszív, 40 TOPs szintű INT4-es számítási teljesítményt kínál. A szóban forgó USB-s AI gyorsító egy jól ismert processzor, a Hailo-10H köré épül, ami már több hírünkben is szerepelt. A processzor mellé ezúttal 8 GB-nyi LPDDR4-es fedélzeti memóriát társítottak, ami segít a hatékony munkavégzésben és a helyben futó LLM-ek és VLM-ek gyorsításában, illetve az egyéb AI feladatok sebességének felpörgetésében.
Az apróság egy 105 milliméter hosszú, 50 milliméter széles, illetve 18 milliméter magas USB-s eszköz formájában érkezik, ami nagyobb, mint egy klasszikus pendrive, de kisebb, mint egy nagyteljesítményű külső SSD. Az USB-C portra kapcsolódó AI gyorsító segítségével kiegészíthető a processzor NPU-jának teljesítménye, de olyan esetekben is jól jöhet, amikor egyáltalán nincs NPU az adott rendszerben. A komplex AI feladatokra is bevethető USB-s AI gyorsító mindössze 2,5 W-os fogyasztás mellett működik és 10 Gbps-os adatátviteli sávszélességű USB 3.1 Gen2 Type-C csatolófelületet használ. A termék a nagyobb AI keretrendszerekkel gond nélkül együtt tud működni, így egyebek mellett a Keras, a PyTorch, a TensorFlow, a TensorFlowLite és az ONNX támogatással is rendelkezik.
A konzumerpiaci és ipari eszközökben és rendszerekben egyaránt használható újdonság nemcsak Windows és Linux, hanem Android támogatással is büszkélkedik, ezáltal többféle platform is profitálhat a benne rejlő lehetőségekből. Az alacsony fogyasztású AI gyorsító mellé az ASUS csapata egy speciális alkalmazást is kínál majd, ami UGen Utility névvel érkezik és 100-nál is több előre tréningezett modellt tartalmaz a könnyebb indulás érdekében. A termék birtokában a Hailo Developer Community is elérhetővé válik, ahol oktatóanyagok, referencia tartalmak, illetve nagymennyiségű tudás áll rendelkezésre annak érdekében, hogy az Edge AI alkalmazások fejlesztése és bevetése minél gyorsabban, minél hatékonyabban történhessen.
Az ASUS újdonsága a fejlesztőket, a tanulókat, az oktatókat, illetve a beágyazott ipari rendszerek fejlesztőit egyaránt célba veszi, illetve mindenki mást is, aki alacsony fogyasztású, könnyen kezelhető, mégis ütőképes teljesítményt nyújtó AI gyorsítóra vágyik a helyi AI tartalmak kezeléséhez.
Az ASUS UGen300-as modell várhatóan rövidesen elérhető lesz kereskedelmi forgalomban, arról azonban egyelőre nincs hír, pontosan mennyibe kerül majd. A termékből M.2-es bővítőkártya formájában érkező változat is készül, amivel újabb szegmenseket és eszközöket vehet célba a gyártó, a fentihez hasonló képességek mellett.
