Mint az ismeretes, az OpenAI egy biztonsági tesztje során szabálytalan műveletek sorozatát követően MI ügynökök feltörték a Hugging Face rendszerét. Az már korábban kiderült, hogy a művelet során az ügynökök több szolgáltatáshoz is behatoltak, ami már eleve súlyosbította a teljes képet. Viszont most megjelent két beszámoló, melyek részleteiben tárják fel az eseményeket, és így lesz igazán sötét a sztori.
Az egyik beszámolót az OpenAI készítette, a másikat pedig a cég engedélyével a METR és a Redwood Research csapatai együtt publikálták. A jelentések együtt csaknem 130 oldalt tesznek ki, és ezek révén kapunk igazán mély betekintést abba, hogy mi zajlott a háttérben, hogy is történt a kibertámadások sorozata. Ezek teljesen új megvilágításba helyezik azokat a kockázatokat, amelyeket a rendkívül képzett mesterséges intelligencia-modellek jelenthetnek a kiberbiztonság terén.
A kiberbiztonsági tesztről azt lehet tudni, hogy hosszú időn keresztül zajlott, és csaknem két hétbe telt az OpenAI-nak, hogy egyáltalán azt felismerje, hogy “megszöktek” a fejlett nyelvi modellek által kezelt MI ügynökök, és “szabálytalan” műveleteket hajtottak végre. A vállalat olyan kihívás elé állította a legjobb eszközeit egy zártnak vélt környezetben, ami hatalmas kihívást jelentett ezeknek, nem tudták egyszerűen megoldani a kihívást, ez vezetett a kibertámadáshoz.
„Ez az eset az első ismert példa arra, hogy egy automatizált ügynökökből álló csoport engedély nélkül támadó módon lépett fel” – írta az OpenAI jelentésében.
A vállalat eddig is kicsit úgy kezelte ezt az ügyet, mintha büszke lenne a történtekre, és a mostani jelentéséből is ez érződött. A valóban súlyos részleteket inkább a METR és a Redwood publikációja tárta fel. Az OpenAI szerint paradigmaváltásra van szükség a kiberbiztonság terén. “Többé nem feltételezhetjük, hogy a kifinomult kibertámadásokhoz közvetlen emberi irányításra van szükség” – állítja a cég.
Az OpenAI beszámolója az MI ügynököket egy teljesen új típusú fenyegetésként kezeli már. A vállalat vélekedése szerint a friss tapasztalatok azt mutatják, hogy ezek képesek a szakértelmüket egyesíteni, hogy új támadási módszereket, útvonalakat dolgozzanak ki egy-egy jelentősebb kihívás, cél teljesítése érdekében. Az OpenAI feltárta, hogy milyen változásokra van szükség annak érdekében, hogy ez a helyzet ne ismétlődhessen meg.
A METR és a Redwood jelentéséből kiderült, hogy egészen elképesztő mértéket öltött a két nyelvi modell aktivitása a háttérben. Eddig annyit lehetett tudni, hogy a biztonsági gátak nélküli GPT-5.6 Solt és egy az eddigieknél sokkal jobb képességű, kísérleti modellt alkalmazó MI ügynökök követték el a kibertámadást. Röviden és tömören tényleg ennyi történt, és már ez is súlyosnak hangzik, de kibontva lett igazán sokkoló a történet.
A kiberbiztonsági szakértők elemzése alapján a két modell nagyjából 1200 olyan mesterséges intelligencia ügynököt hozott létre autonóm módon, amelyek több mint 70 000 üzenetet és fájlt cseréltek egy „nem engedélyezett üzenőfalon”, és kiterjedt kutatást végzett arra vonatkozóan is, hogyan “hamisíthatják, szerkeszthetik vagy törölhetik saját beszélgetési naplóikat”. Tehát próbálták eltüntetni a nyomokat maguk után. A rossz szándékú ügynököket elvileg el kellett volna szigetelni, de sikeresen rájöttek arra, hogyan tudnak átlépni az összes biztonsági korlátozáson.
A több mint ezer ügynökből a Hugging Face elleni nyílt kibertámadásban körülbelül 700 “szereplő” vett részt. A METR-Redwood jelentés alapján az ügynökök „egyértelműen és rendszeresen” igyekeztek olyan műveleteket kidolgozni, melyekkel elkerülhetik mind a Hugging Face, mind pedig az OpenAI automatizált biztonsági ellenőrzéseit. Az OpenAI július 20-án fedezte fel a hacker aktivitást, de valójában a kiterjedt kiberbiztonsági tesztelés során már 12 nappal korábban sikerült az MI ügynököknek kijátszani a biztonsági korlátozásokat.
Miután kiderült a súlyos probléma, az OpenAI a saját jelentése szerint azonnal értesítette a Hugging Face-t a történtekről, de korábban a platform arról beszélt, hogy a betöréseket jóval az előtt észlelték, hogy az OpenAI felvette volna velük a kapcsolatot. A beszámolók alapján a fejlesztőnek öt napba telt, mire sikeresen leállított minden ismeretlen belső aktivitást, és ehhez kénytelen volt az összes belső kutatási modell használatát felfüggeszteni. Elvileg a támadást elkövető ügynökök három nap alatt sikeresen leálltak, de a cég úgy látta a legjobbnak, ha minden eszközt pihentet, hogy teljesen tisztán lássa a képet.
Miközben a világban egyre többen követelik, hogy a hatóságok lépjenek fel erélyesebben a mesterséges intelligencia eszközöket fejlesztő cégekkel szemben, az OpenAI ígéretet tett arra, hogy jobban elszigeteli és korlátozza a magas kockázatú modellek hozzáféréseit. Továbbá kijelentette, hogy egy állandóan üzemelő gyorsreagálási rendszert vezet be, amelynek keretében 30 percen belül minden aggasztó incidensről azonnal értesülnek majd szakavatott kutatók.
