Az Apple kutatói egy ötletes belsős rendszerről rántották le a leplet nemrégiben, amikor az arXiv virtuális hasábjain keresztül publikálták a róla szóló kutatást. Ebből kiderül, hogy a vállalat egy Minions névre keresztelt felhős rendszert használ a belső AI feladatok gyorsítására, ami egy Minion Server, egy Minion Executor, illetve egy Minion Watchdog névre keresztelt komponens segítségével gondoskodik az egyes feladatrészek hatékony, biztonságos, eredményes elvégzéséről. A koncepció lényege az, hogy a házon belül üresjáratban ketyegő Mac konfigurációkat, amelyek éppen semmilyen fontos feladatot nem futtatnak, befogják különböző AI feladatok elvégzésére – jellemzően AI Inference központú munkáról van szó –, amelyek így hatékonyan besegíthetnek, ezzel is csökkentve a teljesítményhiány jelentette kihívásokat.
Jelenleg az AI fejlődésének lényegében az szab gátat, hogy nincs „végtelen mennyiségű” hardveres erőforrás, ami segíthetne a szükséges számítási teljesítmény elérésében, erre ad hatékony és ötletes választ az Apple Minions rendszere, ami lényegében egy GPU alapú felhős „infrastruktúra”, kifejezetten belsős feladatok elvégzésére. Ezzel a módszerrel jelentősen csökkenthető az AI feladatok várólistája: míg korábban 10 óránál is tovább kellett sorba állniuk a feladatoknak a megfelelő GPU alapú erőforrásokért, addig az új rendszer révén ez akár percekre is csökkenhet, hála a Minions rendszernek, amelynek keretén belül a nagyobb feladatokat több kisebb részfeladatra bontják, ennek elvégzését pedig ellenőrzi a Minions Watchdog. A feladatvégzés történhet a nyílt forráskódú Hugging Face transformer modellekkel, illetve az Ollama segítségével nagy nyelvi modelleket is bevethetnek szöveggenerálásra — mindkettőt eléri az összes olyan belsős Mac, amely részt vesz a Minions infrastruktúra működtetésében.
A működő rendszer alapját a Minion Server adja, ami összefogja a feladatokat és kisebb részfeladatokra osztva megbízza velük az elérhető, éppen üresjáratban ketyegő Mac konfigurációkat, amelyeken futnia kell a Minion Executor appnak is, ami a REST API segítségével „húzza be” magának a feladatokat, ugyanis nincs központi ütemező rendszer – ha az egyik feladat kész, jöhet a másik. Az egyes részfeladatok PortreSQL adatbázisban kapnak helyet, ahonnan eléri azokat a Mac-flotta, majd a kész munkát visszaküldi a szervernek.
A folyamatba természetesen csúszhatnak hibák, ezeket a Minion Watchdog szűri ki: a Mac-flotta egyes tagjai ötpercenként küldenek információt a munkavégzéssel kapcsolatban, így gyorsan kiderül, ha egy feladat nem lett elvégezve valami miatt. Ebben az esetben a részfeladat visszakerül a várólistára és egy újabb Mac behúzhatja azt. A Mac felhasználója meghatározhatja a feladatvégzés ütemezését is, azaz kijelölhet egy csapatot vagy projektet, amelynek feladatai elsőbbséget élveznek, de arra is van mód, hogy dinamikusan működjön a rendszer, vagyis sorrendben hajtja végre az elérhető feladatokat.
A feladatvégzéssel és az esetleges tudnivalókkal kapcsolatban természetesen kaptak tájékoztatást a résztvevő munkavállalók, így hatékonyan lehetett ütemezni a munkavégzést és a rendszerek elérhetőségét is, mivel csak akkor működik a Minions rendszer, ha a Mac-eken fut a Minion Executor, ezzel kapcsolatban viszont egyeztetés szükséges.
A módszer ötletes és hatékony, igaz, még cégen belül is felvet néhány kérdést a megbízhatósággal és az adatok bizalmas kezelésével kapcsolatban, de ezt igyekeznek úgy kezelni, hogy a feladatokat csak az adott projekttel foglalkozó csoportban lévő Mac-ekre bízzák, amelyek elkülönítve, különálló flottaként dolgozhatnak rajtuk, ehhez pedig saját adatbázist is kapnak.
A Minions rendszer fejlesztése itt persze nem áll meg, a kutatók következő lépésként elosztott modelltréningre is szeretnék bevetni a rendszert, illetve nagyobb léptékben is látnak benne fantáziát, például nagyobb vállalatokon belül, ahol a rendelkezésre álló Mac-ek saját céges feladatokon dolgozhatnak a fentebb említett módon. Akár az is járható út lenne, hogy egy nagy globális közösségként a vállalkozó szellemű felhasználók is belépjenek egy hasonló rendszerbe, ahol hasonlóképpen lehetne támaszkodni a Mac-ek számítási teljesítményére, ezzel számos előremutató feladatot lehetne hatékonyabban és gyorsabban elvégezni. Utóbbi persze sok-sok kérdést felvet, de mivel ez egyelőre csak gondolat szintjén merült fel, a konkrét rendszer kidolgozására még várni kell.
