2611 - iPon Black Friday Teaser

Az idei évben egyebek mellett attól volt hangos a sajtó, hogy a mesterséges intelligencia már a fejlesztők kezében sem kellően biztonságos.

Nagyon sok kritika érte a cégeket, de a kormányokat is, hogy nem tesznek semmit, és ezt látva érezte úgy Kalifornia, hogy ez már valóban nem mehet így tovább. Eljött az ideje annak, hogy példát mutasson. Az állam célkeresztjébe pedig nem meglepő módon az OpenAI került. 

Miért éppen az OpenAI? Nos, főleg az OpenAI-nál látottak adtak okot valóban komoly aggodalomra. Mostanra teljesen egyértelművé vált, hogy a ChatGPT megalkotója nem ura a saját eszközeinek. Olyan sok kiberbiztonsági incidens történt a cég különböző tesztjei során, hogy egyszerűen nincs arra kapacitása, hogy minden érintettet időben értesítsen ezekről. Igazából abban sem lehetünk biztosak, hogy egyáltalán arra van erőforrása, hogy minden esetet megfelelően feltárjon.

Galéria megnyitása

Az első igazán nagy nyilvánosságot kapó eset az volt, amikor a Hugging Face rendszerébe behatoltak az OpenAI élvonalbeli és kísérleti nyelvi modelljei által menedzselt MI-alapú ügynökök tömegei, mert úgy vélték, hogy ott találnak majd hasznos információt egy kiberbiztonsági tesztfeladvány megoldásához. Eleve az sem történhetett volna meg, hogy kilépjenek az ügynökök a tesztelésre fenntartott környezetből, de ennél sokkal messzebb mentek. 

A hétfőn benyújtott keresetben Rob Bonta főügyész azzal vádolta meg az OpenAI-t, hogy megsértette a fogyasztóvédelmi törvényt azzal, hogy tudatosan fejlesztett ki egy „megfelelő felügyelet nélküli, veszélyes terméket”.

Mostanra azt is tudni lehet, hogy a Hugging Face esete csak a jéghegy csúcsa volt, és ez egy olyan jéghegy, ami folyamatosan gyarapodik, szünet nélkül növekedik a mérete. A benyújtott dokumentumok tanúsága szerint az OpenAI egy előzetes vizsgálat keretében nemrégiben arról tájékoztatta az ügyészséget, hogy mostanra rendkívül sok olyan eset volt, amikor kicsúszott a cég irányítása alól a mesterséges intelligencia. 

A rendszeresen zajló tesztek során már több mint 80 alkalommal fordult elő, hogy az OpenAI “elvesztette az irányítást” az autonóm módon feladatot teljesítő ügynökök felett.

A főügyész meglátása szerint a vállalat egyáltalán nem törekszik arra, hogy fokozza a biztonságot, sőt mi több, egyenesen a vállalati kultúra részének nevezte, hogy nem veszik figyelembe a biztonsági kockázatokat. “A biztonság és az elszámoltathatóság helyett a növekedést és a modellek gyors fejlesztését helyezi előtérbe az OpenAI” – emelte ki Rob Bonta. Emiatt előre látható volt, hogy ilyen következményei lesznek a vállalat tevékenységének. 

A perre véleménye szerint azért van szükség, mert az OpenAI szemmel láthatóan zavartalanul dolgozik úgy, hogy napról napra egyre jelentősebb kiberbiztonsági kockázatot jelent. Sam Altman úgy irányítja a céget, mintha bármit megtehetnének következmények nélkül.

Galéria megnyitása

„Az OpenAI cselekedetei csak fokozták a valós világban fennálló kiberbiztonsági kockázatokat, veszélyeztetve ezzel a társadalom biztonságát, egészségét és jólétét” – állítja Bonta a sajtóközleményben. „A vállalat tudatosan tesztelt egy veszélyes terméket megfelelő felügyelet és biztonsági eljárások nélkül, és félrevezette a közvéleményt ezzel kapcsolatban – ez a közbiztonság figyelmen kívül hagyása, amivel megsértette a kaliforniai törvényeket.”

Nem meglepő módon az OpenAI nem látja ennyire súlyosnak a helyzetet, és azt gondolja, hogy ez egy olyan per, amit bármelyik piaci szereplővel szemben el lehetne indítani ugyanilyen alapon. Azt is igyekezett a cég illetékese elmondani, hogy végig mindenben együttműködtek a hatóságokkal, igyekeztek a legjobb tudásuknak megfelelő tájékoztatást nyújtani.

„A Hugging Face incidens óta átfogó és átlátható erőfeszítéseket tettünk annak érdekében, hogy megértsük és megfelelően kezelni tudjuk a nem megfelelően eljáró modellek tevékenységét. Úgy tűnik, hogy ez a per kizárólag az OpenAI-t célozza meg egy olyan kihívás miatt, amelyet minden jelentős mesterséges intelligencia laboratórium azonosított.” – véli a vállalat szóvivője, Drew Pusateri. “Komolyan vesszük a nem megfelelő viselkedés kérdését, és konstruktív együttműködést folytattunk a főügyésszel az információk megosztása és az egész iparágra vonatkozó szigorú, gyakorlati biztonsági szabványok kidolgozása érdekében.”

Amennyiben a perben bizonyítást nyer, hogy az OpenAI valóban hibázott, abban az esetben pénzbüntetést kell majd fizetnie a sértetteknek. Továbbá változtatni kell majd a különböző gyakorlatain, hogy a jövőben hatékonyan legyen képes megelőzni azt, hogy az ügynökei elszabadulnak és kiberbiztonsági fenyegetést jelentenek az online térben.

Hírlevél feliratkozás
A feliratkozással elfogadom a Felhasználási feltételeket és az Adatvédelmi nyilatkozatot.

0 hozzászólás

A komment írásához előbb jelentkezz be!

Még nem érkeztek hozzászólások ehhez a cikkhez!

Segíts másoknak, mondd el, mit gondolsz a cikkről.
Vissza az oldal tetejére