A Fable 5 és a Mythos 5 néhány nappal ezelőtt nagy reményekkel került bevezetésre, de pillanatok alatt problémák merültek fel ennek kapcsán, ami miatt korlátozni kellett az elérését. Egyelőre nem lehet tisztán látni az ügyben, de az biztos, hogy az Anthropic számára rendkívül kellemetlen az ügy, és nem is jöhetett volna rosszabb pillanatban.
Az Anthropic az MI-verseny egyik élmenőjeként tavasszal bemutatott Mythos néven egy olyan modellt, amit a sebezhetőségek feltárásában elvileg soha nem látott hatékonyságra képes. Ezt azonban csak egy nagyon szűk elit számára tett elérhetővé, mert olyan veszélyesnek bizonyult, ugyanis nem voltak benne azok a biztonsági korlátozások és szabályozások, amik ma minden publikus MI modellben jelen vannak.
Múlt héten viszont előrukkolt a cég a Mythos 5-tel és a Fable 5-tel. A Mythos 5 a hivatalos álláspont szerint már jobb, mint a korábbi Mythos előzetes volt, a Fable 5-nél pedig elvileg a biztonságos használat is garantált minden szinten. Állítólag a Fable 5 teljesen veszélytelen, és hamar lehetett olyan beszámolókat látni, melyek szerint túl is lett szabályozva, mert teljesen átlagos kérdésekben is elutasította a válaszadást.
Sokan meglepődtek azon, hogy az Anthropic ennyire gyorsan előállt a rendkívül veszélyesnek ítélt modell továbbfejlesztett és megszelídített változatával, de úgy tűnt, hogy simán lemegy a bevezetés. Viszont múlt pénteken a délutáni órákban az amerikai Kereskedelmi Minisztérium derült égből villámcsapásként kiadott egy exportkorlátozási felszólítást, amelyben arra utasította az Anthropic-ot, hogy azonnali hatállyal zárja el az új eszközöket minden külföldi entitástól.
Nemzetbiztonsági kockázatra hivatkozott az érintett kormányszervezet, és az Anthropic kénytelen volt eleget tenni a határozatnak. Teljesen leállította a cég az új modelleket, mivel a kormány által elvárt korlátozáshoz nem rendelkeznek megfelelő eszközzel.
Korábban még soha nem fordult elő, hogy az amerikai kormány egy mesterséges intelligencia eszköz kapcsán ilyen módon utasít egy vállalatot a hozzáférés korlátozására. Az Anthropic ugyan eleget tett a kérésnek, ameddig kivizsgálják az ügyet, ugyanakkor azt hangsúlyozták, hogy nem értenek ezzel egyet, és nem is kaptak bővebb információt arról, hogy mi történhetett.
“Még csak nem is értesítettek minket olyan, nem általános érvényű, potenciális jailbreakről, amely káros következményekkel járt volna. Azok a potenciális jailbreakek, amelyekről értesítést kaptunk, vagy teljesen ártalmatlan megoldások, vagy olyan jelentéktelen felfedezések, amelyek nem nyújtanak semmilyen, a Mythosra jellemző előnyt.” – jelentette ki a felszólításra reagálva az Anthropic. Amerika szerint egy kínai kötődésű csoport hozzáférhetett az eszközhöz, ennek nyomára utaló jelet azonban nem találtak.
A Kereskedelmi Minisztérium váratlan fellépését követően számos politikai vezető fejezte ki aggodalmát az “újszerű” gyakorlat kapcsán. Elsősorban az keltett nagy felzúdulást a politikusok körében, hogy arról beszéltek, hogy az Egyesült Államok minden külföldi személyt próbált eltiltani az új modellek elérésétől. Ezt pedig nem tudták nem úgy értelmezni, hogy jogosulatlan előnyszerzésre használják a politikai hatalmukat.
Egyes feltételezések szerint valójában a kormány bosszúja áll a háttérben
Korábban az amerikai vezetés összerúgta a port az Anthropic-kal, mivel a cég nem kívánta a különböző nyelvi modelljeit és mesterséges intelligencia eszközeit biztosítani a Védelmi Minisztériumnak. A Claude-ot jogtalanul is alkalmazta az Egyesült Államok megfigyelési és fegyvertervezési célokra, és mikor ez kiderült, az Anthropic hangos tiltakozásba kezdett. Erre válaszul a kormányzat úgy döntött, hogy tiltólistára teszi a vállalat termékeit.
Mikor az Anthropic a közelmúltban bejelentette, hogy a Mythos előzetes modelljét elérhetővé teszi az Európai Unió számára is a kiberbiztonság fejlesztése céljával, az amerikai kormányzat már akkor nemtetszését fejezte ki.
Az Anthropic nagyon merésznek bizonyult azzal, hogy előrukkolt ezekkel a modellekkel, de a kiélezett piaci versenyben úgy érezhette, minden lehetőséget meg kell ragadnia. Ráadásul a vállalat a színfalak mögött már arra készül, hogy tőzsdére lépjen, éppen ezért nem meglepő, hogy szeretett volna nagyot villantani a szakma és a versenytársak előtt. Azonban könnyen lehet, hogy a Fable és a Mythos modellek ügye a visszájára sülhet el.
