Április elején bejelentette az Anthropic, hogy elindult a Project Glasswing, ami egy biztonságot célzó kezdeményezés a Claude Mythos modell köré szervezve. Ebbe a cég kizárólag megbízható partnereket vont be, a technológiai ágazat krémjét, így például az OpenAI-t, az Nvidiát és mások mellett az Amazont. A napokban azonban kiderült, hogy a zárt és szigorúan őrzött modellhez illetéktelenek is hozzáférhettek.
Egy a nevét elhallgató személy azzal kereste meg a Bloomberget, hogy volt “egy kisebb jogosulatlan felhasználói csoport”, akiknek lehetősége volt elérni azt a kiberbiztonsági eszközt, ami az Anthropic saját bevallása szerint olyan veszélyeket rejthet magában, hogy egyáltalán nem áll szándékában megnyitni.
Ez rendkívül súlyos állítás, de az illető bizonyítékokat is fel tudott mutatni arra, hogy külsősként képes volt elérni a speciális modellt. Több képernyőmentést átadott a lapnak, hogy az állításait alátámassza. Az Anthropic egyik alvállalkozójaként hivatkozott magára a Bloomberget értesítő személy, és azt mondta a lapnak, hogy egy Discordon szerveződött csoportnak sikerült jogtalan hozzáférést szereznie. (Legalábbis jelenleg erről van tudomásunk.)
“A tagok különböző módszerek kombinációjával jutottak hozzá a Mythos modellhez, kihasználva az alvállalkozói hozzáférési jogosultságaikat és egyszerű online kutatási eszközöket” – olvasható a jelentésben. A hozzáférést állítólag április 7-én szerezték meg az illetéktelenek, éppen azon a napon, amikor a vállalat bejelentette, hogy elindult a Project Glasswing erősen korlátozott számú partneri kör bevonásával.
Állítólag egy olyan Discord csoportról van szó, melynek tagjai publikálás előtt, fejlesztés alatt álló modellekről gyűjtenek információkat. A beszámoló szerint a jogosulatlan hozzáférési lehetőség feltárása óta rendszeresen használták a Claude Mythos modellt. Emellett pedig elvileg más fejlesztés alatt álló modelleket is elértek az Anthropic égisze alatt – egyéb Claude variánsokra gondolhatunk itt.
Claude Mythos jelenleg még csak előzetes verzióban üzemel, a vállalat ezért is igyekezett rendkívül erősen korlátozni azoknak a körét, akik hivatalosan dolgozhatnak vele. Ez egy olyan általános célú modell, ami számos tesztben sokkal jobban teljesít, mint a ma elérhető “fogyasztói” eszközök. Az elsődleges célja pedig az, hogy sebezhetőségeket találjon meg, és azokra megoldásokat javasoljon. Az Anthropic azzal mutatta be a partnereknek az eszköz hatékonyságát, hogy évtizedek óta rejtőző biztonsági réseket fedett fel széles körben alkalmazott rendszerekben.
A Bloomberg felvette a kapcsolatot az Anthropic-kal, és a cég azt a tájékoztatást adta, hogy nincs tudomásuk semmilyen visszaélésről, nem észleltek jogosulatlan hozzáférést. “Vizsgáljuk azt a bejelentést, amely szerint valamelyik külső beszállítónk rendszerén keresztül ismeretlenek hozzáfértek a Claude Mythos előzetes modellhez.” – tette hozzá a vállalat.
Mindenképpen aggodalomra adhat okot az, ha a világ legnagyobb technológiai cégei, a mesterséges intelligencia fejlesztések éllovasai ilyen szintű biztonsági hibát vétenek.
Látni kell azt, hogy a Claude Mythos modellel nemcsak, hogy hackerek a saját érdekeiket előtérbe helyezve tudnak biztonsági réseket felfedezni, hanem sokkal komolyabb veszélyei is lehetnek ennek. Mivel egy kiberbiztonsági eszközről van szó, és csak előzetesként fut zárt és ellenőrzött környezetben, nagy valószínűségek szerint nincsenek benne biztonsági korlátozások – vagy sokkal lazábbak ezek a megszokottnál. Ez pedig még súlyosabbá teszi a mostani ügyet.
