A mesterséges intelligenciát nagyon sok feladatra használják már napjainkban, és egyebek mellett a kiberbiztonsági hasznosítása is folyamatban van. Ezen a fronton jelentett be az Anthropic egy nagyon érdekes fejlesztést, ami elsősorban olyan sérülékenységek feltárására fókuszál, amit éppen az MI révén használhatnak ki a bűnözők.
Project Glasswing néven fut az Anthropic kezdeményezése, és egy kísérleti általános célú mesterséges intelligencia modell, a Claude Mythos Preview áll mögött, amit biztonsági okokból nem tesznek nyíltan elérhetővé.
A világ egyik legsikeresebb MI startupja az Anthropic, és már eddig is nagyon szép sikereket tudott elérni, de a Project Glasswing révén minden eddiginél exkluzívabb ügyfélkört tudott elérni. A cég beszámolója szerint ezt a fejlesztést már támogatja az Amazon Web Services, az Apple, a Broadcom, a Cisco, a CrowdStrike, a Google, a JPMorgan Chase, a Linux Foundation, a Microsoft, az Nvidia és a Palo Alto Networks is. A cél az, hogy a világ legkritikusabb szoftvereit megvédjék.
Az elmúlt időszakban a generatív MI eszközök például a programozás terén már elértek egy olyan szinten, ami meghaladhatja az emberek képességeit. A Project Glasswing keretében pedig azt szeretnék elérni, hogy a mesterséges intelligenciát hatékonyan használhassák fel az MI-alapú kibertámadások megelőzésére.
Az Anthropic a színfalak mögött egy ideje már teszteli a Claude Mythos modell előzetesét, és a vállalat beszámolója szerint több ezer olyan biztonsági rést fedeztek fel ezzel, amik magas kockázatot jelentettek a különböző operációs rendszerekre és webböngészőkre.
Konkrét dolgokat nem említett meg a vállalat biztonsági okokból, de azt elmondta, hogy az OpenBSD-ben kiszúrt a modell egy 27 éve nyitott sérülékenységet, az FFmpegben pedig egy 16 éve jelen levő sebezhetőséget sikerült megtalálnia. Ezek felett több ezer biztonsági szakember és több millió biztonsági vizsgálat siklott el az évek során.
A Project Glasswing keretében az Anthropic biztosít a partnerei számára egy 100 millió dolláros felhasználási kreditkeretet, ami azt jelenti, hogy ingyenesen dolgozhatnak a cégek a Claude Mythos előzetes modellel. Ezzel igyekszik azt kifejezni, hogy a biztonságot tartják az elsőnek, és valóban azt szeretnék, ha ezzel az eszközzel sikerülne a platformok sebezhetőségeit feltárni azelőtt, hogy illetéktelenek visszaéléseket követnek el az MI-vel fabrikált kártevőikkel.
Azt is elmondta az Anthropic, hogy 4 millió dollárt adományoz különböző open-source szervezetek számára, amit a fejlesztők a biztonság javítására használhatnak fel.
Az Alpha-Omega, az OpenSSF és az Apache Software Foundation működését támogatja a vállalat. A Claude Mythos szabad hozzáférése azonban nem szerepel a tervek között, az Anthropic azt igyekszik elérni, hogy különböző ellenőrzött szervezeteken keresztül adjon ehhez hozzáférést, de a felügyeletet magánál tartaná.
A jelenlegi tervek szerint 90 naponta, tehát negyedévente jönnek majd átfogó biztonsági jelentések a Project Glasswing tevékenységéről. Ezekben látható lesz, hogy mennyi és milyen jellegű sebezhetőségeket sikerült feltárnia a modellnek az adott időszakban. A jelentések gyakorlati ajánlásokat is megfogalmaznak majd a biztonság javítására. Az Anthropic azt is közölte, hogy folyamatos tárgyalásokat folytat az amerikai kormányzati tisztviselőkkel a modell képességeit illetően.
A Project Glasswing keretében alkalmazott általános célú modell használata rendkívül költséges. A bemeneti oldalon 25 dollárba kerül 1 millió token feldolgozása, a kimenetnél pedig már 125 dollárt kóstál ugyanígy 1 millió token létrehozása. Azonban bőven kifizetődő lehet a használata, ha valóban hatékonyan képes feltárni a sebezhetőségeket, ugyanis a biztonsági rések kutatóinak is jelentős összegeket fizetnek ki a cégek a tevékenységükért cserébe.
