A különböző képgeneráló mesterséges intelligenciák nagy népszerűségre tettek szert az utóbbi időben, ezeknél a megfelelő számítási kapacitást általában távoli szerverek biztosítják, hogy gördülékenyen menjen a rendszerek használata. De a Qualcomm most megmutatta, hogy ideális esetben már nem az ördögtől való a helyben futtatott generatív MI szolgáltatás használata sem.
A Mobil Világkongresszuson a Qualcomm számos érdekességet mutatott, élesben megvillantotta például az első iSIM-mel működő készüléket, amiben egy helyi szolgáltató volt a partnere. Most pedig arról lesz szó, hogy egy bemutatóban a cég azt is a közönség elé tárta, hogy a legújabb Snapdragon 8 Gen 2 rendszerchip már akkora számítási kapacitással rendelkezik, hogy igazából nem kell a felhőre támaszkodnia ahhoz, hogy a mesterséges intelligenciát kihasználva képeket generáljon.
Kísérleti jelleggel a szakemberek beüzemelték a mobiltelefonon a Stable Diffusiont, annak is egészen pontosan az 1.5-ös verzióját – nem ez a legfrissebb, a szolgáltatás jelenleg a 2.1-es kiadásánál jár. A bemutató alkalmával egy 512 x 512 képpontos felbontású felvételt hoztak létre az MI képkészítő eszközzel. Hogy mennyi időt vett ez igénybe? Nos, valamivel kevesebb mint 15 másodperc alatt elkészült a végeredménnyel az okostelefon.
A Qualcomm mérnökei komoly erőfeszítéseket tettek annak érdekében, hogy a generatív MI megfelelően ki tudja használni a rendelkezésére álló hardveres erőforrásokat. Az optimalizáció pedig a jelek szerint nem volt hiábavaló, mert bár azért várni kell egy ideig, ez már teljesen jól használhatónak tekinthető. Normál esetben a helyben futtatott generálások akár perceket is igénybe vehetnek, ha nincs hozzá kellő számítási kapacitás, vagy nem gondoskodott a fejlesztő a megfelelő optimalizálásról.
Mint azt megtudhattuk, a kiváló eredmény elérése érdekében a Qualcomm MI kutatói a cég által külön a mesterséges intelligenciával kapcsolatos szolgáltatások optimalizálására létrehozott Qualcomm AI Stack eszközt használták fel arra, hogy a Stable Diffusion rendkívül összetett működését hozzáigazítsák a csúcskategóriás Snapdragon rendszerchiphez. Így tudtak olyan tempót elérni az androidos szerkezettel, ami korábban elképzelhetetlennek tűnt.
A vállalat az eredetileg FP32-es (32 bites lebegőpontos) Stable Diffusion 1.5-et átültette INT8-ra az AI Model Efficiency Toolkit használatával, ami a továbbiakban már a Qualcomm AI Studio részeként szélesebb körben is alkalmazható lesz. Az INT8 esetén lényegesen nagyobb hatékonyságot és teljesítményt képes elérni a Snapdragon 8 Gen 2, tehát ez hozzájárult a jó eredmény eléréséhez. Az androidos mobilra összerakott Stable Diffusion direktben ki tudta aknázni a Qualcomm AI Engine képességeit. A képgenerálás során a Hexagon feldolgozó egységet, és minden bizonnyal az integrált grafikus processzort is munkára tudta fogni egyebek mellett.
Megjegyezte a Qualcomm, hogy ezt most első nekifutásra hozták össze, amivel minden bizonnyal arra céloz, hogy bizony lehet ez még jobb is a jövőben. A cég ráadásul a következő generációs rendszerchipek fejlesztésekor már akár az ilyen szolgáltatások igényeit is figyelembe veheti majd, és úgy alakíthatja a lapkák működését, hogy az kedvezzen generatív MI eszközöknek.
Amikor először futtaták a Stable Diffusiont androidos mobilon, akkor egy Sony Xperia 5 II volt a tesztelés alanya. Abban a telefonban egy Snapdragon 865 rendszerchip dolgozott 8 GB-nyi rendszermemória mellett, és a beszámolók szerint az 512 x 512 pixeles felbontású képet nagyjából egy óra alatt hozta létre a képgeneráló MI szolgáltatás. Ehhez képest a mostani eredményt minden további nélkül lehet dimenzióugrásnak nevezni.
