A Microsoft fejlesztőcsapata ismét felhívta a figyelmet arra, hogy az AI ügynökök használata kockázatokkal jár, nem lehet maradéktalanul megbízni bennük, ennek megfelelően bizonyos óvintézkedések meghozatalára van szükség. A vállalat ennek ellenére aktívan fejleszti és terjeszti az újabbnál újabb funkciókat, amelyek keretén belül a Copilot már akár különböző műveleteket is végre tud hajtani az adott felhasználó számítógépén, természetesen csak akkor, ha megkapja a megfelelő jóváhagyást. A legfrissebb hivatalos poszt pont arról szól, hogy a Frontier modellek, illetve a rajtuk futó AI ügynökök önmagukban nem megbízhatóak.
Hogy akkor mégis mi a teendő, ha AI ügynökök használatára adjuk a fejünket, ráadásul speciális jogköröket is adunk nekik, amelyek kockázatot jelentenek? A Microsoft szerint ehhez biztonsági őrként funkcionáló Guardian Agenteket kell bevetni, főként üzleti szinten, amelyek rálátnak az egyes AI ügynökök munkájára, minden ügynök minden lépését ellenőrizhetik, mielőtt az végrehajtana bizonyos műveleteket. A futó AI ügynökök monitorozása és biztonságos működésük garantálása folyamatos felügyeletet igényel, valamint a megfelelő jogkörökről, a végpontok biztonságáról, a hálózatról, a felhőről, illetve a futtatókörnyezetről is megnyugtatóan gondoskodni kell.
Erre a célra készült a Project Perception, amit még idén júliusban jelentetek be és amelynek feladata az, hogy kontroll alatt tartsa az egyes AI ügynököket, méghozzá jogkörök és konténer alkalmazása mellett, egyértelmű szabályrendszert bevetve, identitást is társítva hozzá. Az ügynökök működése során dinamikus kockázatelemzésre is szükség van, a felügyeletet nem egy, hanem egy csapatnyi Guardian Agent láthatja el, ezek valós időben gondoskodhatnak a biztonságos és elvárt működésről.
A Project Perception keretén belül valós időben lehet terelgetni az AI ügynököket, valamint arra is lehetőség van, hogy visszanézzük, mit műveltek az egyes ügynökök, ezáltal arra is fény derülhet, mi alapján minősült kockázatosnak egyik vagy másik művelet, majd ennek megfelelően frissíteni lehet a biztonsági szabályrendszert. A valós idejű felügyelet révén gyorsan lehet reagálni a biztonsági eseményekre, a szakemberek pedig levonhatják a megfelelő következtetéseket és ezáltal biztonságosabbá válhat a működés. Szükség van persze arra is, hogy áttekinthetőbb legyen az egyes modellek működése, ne csak a bemeneti és a kimeneti tokeneket lehessen felügyelni, hanem a „gondolkodást”, illetve a gondolkodási tokenek láncolatát is.
Ezek alapján valóban meg lehet érteni, a modell szándéka összhangban volt-e az ügynök céljával, vagy sem. Az áttekinthetőség persze nem váltja ki a korlátozásokat, sokkal inkább az a feladata, hogy hatékonyabbá és okosabbá váljon a működés korlátja, ezáltal biztonságosabb legyen a feladatvégzés. Ez a gyakorlat a nyomon követhetőség és az elszámoltathatóság szempontjából is fontos – ennek kell lennie a következő lépésnek az önállóan cselekvő belsős AI ügynökökkel kapcsolatos kockázatok kezelésében, illetve működésük biztonságosabbá tételében.
A vállalat a fentiek mellett is folytatja az AI funkciók fejlesztését és implementálását, igaz, éppen a minap jelentették be, hogy a OneDrive-hoz tartozó kontextusmenüt megnyirbálják egy picit, hogy az áttekinthetőbb és használhatóbb legyen, ennek eredményeként 8 AI funkciót vezetnek ki belőle, de ezek a lehetőségek nem tűnnek el, máshonnan elérhetőek maradnak. Reméljük, a Microsoft a saját operációs rendszerébe integrálódó AI ügynökök esetében is olyan körültekintően jár majd el, ahol a Project Perception esetében teszik, ugyanis nem újabb és újabb AI funkciókra, illetve sokoldalú AI ügynökökre van szükség, első körben a működés biztonságos feltételeit kell(ene) megteremteni, csak utána jöhetnének a különböző kockázatos funkciók, amikor már „pórázt lehet rájuk tenni”. A fejlődésre persze szükség van, ésszerű és biztonságos keretek között.
