Az utóbbi időben azt érezzük, hogy a különböző technológiai cégek azzal szeretnének büszkélkedni, hogy mennyire kontrollálhatatlan nyelvi modelleket és ügynököket alkottak. Az OpenAI-nál történt a közelmúltban egy nagyon súlyos biztonsági incidens, melyet a cég szinte már reklámszerűen tálalt, majd nem sokkal később az Anthropic is elszabadult ügynökről számolt be, és most már a Metánál is ez a téma.
Ahogy az Anthropic, úgy a Meta is belső vizsgálatot rendelt el azt követően, hogy a versenytársaknál “szabálytalan” tevékenységet hajtottak végre a mesterséges intelligencia eszközök. Így derült fény arra, hogy a vállalat nyelvi modellje korábban meghackelt egy másik céget, és belső környezeti módosításokat hajtott végre a kompromittált rendszerben.
A Meta elmondása alapján nagyjából ugyanaz történt náluk is, mint az Anthropic berkeiben. „A modell kihasználta egy harmadik fél által nyújtott szolgáltatás biztonsági sebezhetőségét, hasonlóan a korábban más vállalatoknál jelentett esetekhez” – áll a cég közleményében.
Az Irregular – egy független piaci szereplő, amely kiberbiztonsági értékeléseket végez a Meta (és más fejlesztők) számára – egy konfigurációs hiba miatt véletlenül nem korlátozta kellően a hálózatát, így az ügynök számára lehetőséget nyújtott az internet elérésére. Ezt kihasználva a feladata során a mozgósított nyelvi modellek “megszöktek” a tesztkörnyezetből a munkafolyamat során.
A rendelkezésünkre álló információk szerint a Meta által üzemeltetett ügynök a Muse Spark 1.1 modelleket használta, ami már nem is a legújabb verzió a cégnél, hiszen éppen most futott be a Muse Spark 1.2. Az nem derült ki egyértelműen, hogy ez az eset mikor történhetett pontosan. A jelentés szerint az eszköz behatolt egy meg nem nevezett vállalat rendszerébe, és bár adatokat nem lopott el, megváltoztatta annak belső környezetét. A Meta igyekezett azt hangsúlyozni, hogy nem történt igazán szofisztikált kibertámadás, és nem is sandboxban talált nulladik napi sebezhetőséget kihasználva zajlott az eset.
„Jelenleg nincsenek nyitott vizsgálatok. A cég egy részletes jelentést állít össze, amelyben bemutatja a kiberbiztonsági tesztek elszigetelésére és biztonságos lebonyolítására vonatkozó bevált gyakorlatokat” – közölte az Irregular.
Ez az eset tovább fokozza a nyelvi modellek, mesterséges intelligencia eszközök és MI ügynökök körüli aggodalmakat. Globálisan egyre több kormány, szervezet és prominens szakértő sürgeti a határozottabb biztonsági keretek kidolgozását. Lassítani kellene, hogy a kockázatok felmérése legyen az első.
Ugyanakkor az USA részéről például rendre azt lehet látni, hogy kettős kommunikációt folytat. Egyre többet beszél arról, hogy szükség lenne az erőteljesebb és egyértelműbb szabályozásra, mégsem történik semmi, mert tudja jól, hogy azzal a fejlődést lassítaná, hátráltatná. Ha pedig így járna el, akkor a mostanában egyre jelentősebb amerikai-kínai versenyben Kína kezére játszana. Európában van a legszigorúbb és legátfogóbb MI jogszabály érvényben, és látjuk is, hogy sok fejlesztést csak több hónapos csúszással kapunk meg – már ha megkapjuk egyáltalán az összes funkciót.
