Példátlan kiberbiztonsági incidens történt az OpenAI és a Hugging Face között, és ez az ügy több problémát vet fel, mint az elsőre felismerhető. Egészen megdöbbentő az, hogy MI ágensek elszabadulva feltörhetnek más platformokat, de ami talán ennél is nagyobb probléma, és több kérdést vet fel, hogy az egész ügyet miként kezelte az OpenAI.
Július 16-án az OpenAI saját bevallása szerint egy zárt és szigorúan felügyelt környezetben tesztelt két nyelvi modellt, a tesztben egy hackertámadást kellett végrehajtaniuk az eszközöknek. A vállalat a hivatalos közleménye szerint a GPT-5.6 Sol és egy még be nem jelentett kísérleti modellt fogott munkára, és ezekben kikapcsolta a publikus modelleknél kötelezően alkalmazott védelmi mechanizmusokat, hogy a kiberbiztonsági teszt sikeres lehessen.
Az volt a feladata a két modellnek, hogy teljesen önállóan, ágensként üzemelve keressenek egy adott kódban sebezhetőségeket, és a különböző biztonsági rések kihasználásával jussanak át a védvonalakon.
A feladat végrehajtása során a modellek rájöttek arra, hogyan tudnak kijutni a zárt környezetből, hozzáférést szereztek az internethez, és arra jutottak, hogy a Hugging Face adatbázisában találhatják meg azokat a kulcsokat, melyekkel feltörhetik az eredeti célpontjukat. Az OpenAI és a Hugging Face rendszereiben egyaránt több súlyos sérülékenységet találtak a kibervédelmi célokra hangolt modellvariánsok az eset során.
Az ügyet tovább súlyosbítja, hogy a Hugging Face beszámolója szerint az OpenAI nem igyekezett azonnal felvenni a kapcsolatot a platformmal. A cég saját maga észlelte, hogy betörés történt, és az általa alkalmazott ágensek igyekeztek megoldani a támadás elhárítását. Azt nem tudta a Hugging Face, hogy konkrétan az OpenAI áll a támadás mögött, de azt rögtön felismerte, hogy nem egy hétköznapi kiberbiztonsági problémával áll szemben, mivel “az elejétől a végéig egy autonóm MI ügynök rendszert” azonosított.
Miután kiderült, hogy pontosan mi történt, az OpenAI és a Hugging Face az ismereteiket összefésülve kezdte feltérképezni, hogy a két modell által vezérelt ágens pontosan mit és hogyan ügyködött a háttérben. Ezek fontos tapasztalatok, és segítenek abban, hogy a jövőben ilyen eset ne fordulhasson elő.
Hogy mi a legnagyobb probléma amellett, hogy ez ilyen formán megtörténhetett? Nos, az, ahogy az esetet az OpenAI kezeli. Teljesen egyértelmű, hogy a vállalat amellett, hogy elismeri a bűnösségét, igyekszik az ügyből ingyen reklámot faragni.
Rendre hangsúlyozza, hogy a rendkívül fejlett kiberbiztonsági megoldásai mennyire erősek. Teszteredményekkel igyekszik bizonyítani, hogy a GPT modellek az élvonalban vannak ebből a szempontból is, miközben éppen most hackelte meg a saját rendszerét, és még más szolgáltatását is. Továbbá felajánlotta a Hugging Face számára is, hogy beveszi a kiemelt partneri körébe, hogy segítsen a védelmi rendszerét megerősíteni. (Miközben a jelek szerint a saját védelmi rendszerén is lett volna még mit javítani.)
Rendkívül aggasztó, hogy egy ilyen incidenst követően az OpenAI gyakorlatilag dicsfényben próbál fürdőzni. Kiberbiztonsági szakértők már eddig is azt hangsúlyozták, hogy beláthatatlan következményei lehetnek a generatív MI gyors és szinte féktelen, szabályozatlan fejlődésének. Ez az eset pedig ezt mutatja meg (ismét), hogy maguk a technológiai cégek sem képesek kontrollálni a saját fejlesztéseiket. Abba jobb nem belegondolni, hogy kiberbűnözők mire lehetnek képesek az egyre fejlettebb eszközökkel – vagy akár egy rossz kezekbe kerülő belső modellel.
