Anthropic, OpenAI, Meta, Google – ezekben a cégekben nemcsak az a közös, hogy élvonalbeli nyelvi modellekkel rendelkeznek, hanem az is, hogy mostanra az eszközeik követtek el valódi kibertámadást teljesen önállóan. A legújabb a sorban a Google, melynek esete több szempontból is eltér az eddigiektől.
A legmodernebb mesterséges intelligencia eszközöket elképesztően sok szempontból tesztelik, és általában biztonsági tesztek során következtek be kibertámadások. A Google esetében is ez történt, a vállalat egyik partnere tesztelte a Geminit, és ez a dolog ment félre, melynek eredményeként több céghez is behatoltak az MI ügynökök. A különböző cégek meglehetősen eltérő módokon kezelték ezt a szituációt. Az OpenAI reklámot faragott abból, hogy az eszközei kibertámadást követtek el a Hugging Face ellen.
A Google viszont igyekezett az esetet eltitkolni, illetve a cég kommunikációja szerint nem érezte úgy, hogy bármiről be kellett volna számolni. Most is csak úgy derült erre fény, hogy a Wall Street Journal utánajárt a dolognak. A lap kérdéseire válaszolva a cég elmondta, hogy mi történt, és állítólag azért nem számolt be erről magától, mert véleményük szerint nem történt komolyabb probléma.
A WSJ beszámolója szerint a Gemini három vállalat rendszerébe tudott bejutni egy külső cég által végzett biztonsági teszt alatt, de ezt a Google nem tekintette úgy, hogy a modell eltért volna a feladattól.
A rendelkezésre álló információk szerint a Google esete egyébként valóban más, mint ami a többieknél történt. A Gemini is elszabadult és olyan műveleteket hajtott végre, melyekre nem kapott felhatalmazást, viszont egy nagyon fontos különbség volt a korábban már megismert esetekhez képest: a Gemini megállt a behatolást követően.
Heather Adkins, a Google biztonsági fejlesztési részlegének vezetője igyekezett leszögezni, hogy a Gemini a kibertámadást követően azonnal felismerte, hogy eltért a feladatától, és felfüggesztette a munkát. A betöréseket mindhárom esetben viszonylag egyszerű módszerrel követte el, az internetről összekapart adatokat használt fel, mert úgy gondolta, hogy ez is a számára kiosztott biztonsági feladat része.
„A modell nyilvános információkat talált az interneten, és ezekből rakta össze a működő bejelentkezési adatokat azokhoz a weboldalakhoz, amelyekről úgy vélte, hogy a teszt részét képezik. Mindhárom esetben leálltak az MI ügynökök” – nyilatkozta Adkins.
A szakember elmondta, hogy a Google-nek nagy tapasztalata van már abban, hogy jelentsen biztonsági hibákat a különböző vállalatok számára, és ez elvileg itt is megtörtént. Noha Adkins szerint ebben az esetben csak annyi történt, hogy a cégnél gyenge jelszót használtak.
„Gondoskodtunk arról, hogy a három szervezet tudomást szerezzen az ügyről, és a biztonsági tesztet végző partnerünkkel kidolgoztuk azokat a módosításokat, amelyekkel elkerülhetőek az újabb hasonló esetek. Ezek az események rávilágítanak arra, mennyire fontos, hogy a nagy teljesítményű mesterséges intelligencia modelleket felelősségteljes viselkedésre tanítsuk.” – hangsúlyozta a Google biztonsági szakembere.
Az OpenAI és a Google esetében egyébként a szálak összeérnek a partnernél, ugyanaz a partner, az Irregular folytatta a biztonsági teszteket, melyek kisiklottak. Az incidenseket követően a vállalat megváltoztatta a modellek kezelésére szolgáló környezetet.
