A nagy technológiai cégek igyekeznek a mesterséges intelligenciát a lehető legtöbb fronton hasznosítani. A Big Tech szereplők körében ezen a fronton a Meta jár az élen, de nagyon úgy fest, hogy nem ártana, ha nagyobb óvatossággal engedne teret az új MI eszközöknek, mert ezek képesek komoly galibát okozni.
Arról adott hírt a The Information, hogy néhány nappal ezelőtt majdnem két órán keresztül jogosulatlan hozzáférése volt a Meta dolgozóinak a vállalat és a felhasználók adataihoz egyaránt.
A rendelkezésre álló adatok szerint az történt, hogy egy a Meta által belső használatra létrehozott MI ágens – amit hasonlóan kell elképzelni az OpenClawhoz – pontatlan technikai tanácsot adott, és a válaszát publikusan tette közzé. Ezt követően egy dolgozó az utasítások végrehajtásával úgy módosította a rendszert, hogy jogosulatlan hozzáférést tett lehetővé a vállalati és felhasználói adatokhoz.
A The Verge felvette a kapcsolatot az ügyben a Metával, ahonnan megerősítették, hogy az eset valóban megtörtént, nem egy alaptalan állításról van szó. A vállalat szóvivője, Tracy Clayton ugyanakkor igyekezett azt hangsúlyozni a hivatalos közleményben, hogy “a felhasználói adatok helytelen kezelésére nem került sor”.
Clayton elmondása alapján a Meta belső MI ügynöke “a természetében hasonló az OpenClawhoz, azonban egy belső fejlesztői környezetben üzemel”. Ez alapvetően arra szolgál, hogy elemezze a többi dolgozótól érkező technikai kérdéseket a cég zárt fórumán belül. Az ágensnek jóváhagyást követően privát választ kellett volna adnia, de ehelyett ellenőrzés nélkül publikálta a válaszát.
Ezt követően hajtotta végre az egyik dolgozó az utasításokat, amik pontatlanok voltak, és végül SEV1 szintű biztonsági incidenst okoztak – ez a második legmagasabb szint a Metánál.
Válaszában Tracy Clayton igyekezett azt kiemelni, hogy az MI ágens ebben a történetben semmilyen utasítást nem hajtott végre, semmit nem módosított. Csupán tanácsadó volt, és egy ember hajtotta végre az utasításait. Ezzel lényegében azt próbálta hangsúlyozni, hogy a dolgozó hibázott, nem pedig az MI. Viszont azért elég nehéz ezt úgy értékelni, hogy kizárólag emberi mulasztás történt.
„A rendszerrel kommunikáló munkatárs teljes mértékben tisztában volt azzal, hogy egy automatizált bottal áll kapcsolatban” – mondta Clayton a The Verge-nek. „Az ágens a kérdésre adott válaszon kívül semmilyen intézkedést nem tett. Ha az ügyben eljáró mérnök jobban tájékozott lett volna, vagy további ellenőrzéseket végzett volna, ez elkerülhető lett volna.”
Ez a hír különösen rosszkor derült ki, hiszen éppen a napokban volt arról szó, hogy a Meta történetének legnagyobb leépítésére készülhet, a munkavállalók feladatait pedig feltehetően a mesterséges intelligencia eszközöknek osztanák ki.
Állítólag a dolgozók több mint 20 százalékának akar búcsút inteni a Meta, hogy növelje a hatékonyságát. A legutóbbi adatok szerint ez nagyjából 16 ezer dolgozó elbocsátását jelentené. A fenti hivatalos tájékoztató alapján nem lenne meglepő, ha a kirúgott alkalmazottak között lenne az a személy is, aki a napokban történt galibát okozta az MI ágens utasításait követve.
A Meta már 2023-ban nagy teret engedett a generatív MI-nek a belső hálózatán, és az elmúlt években folyamatosan dolgozott azon, hogy a mesterséges intelligenciából minél hatékonyabb munkatársat faragjon. Ma pedig már a fentiek alapján az MI ágensek is aktívan dolgoznak, a cég ezért láthatja elérkezettnek az idejét a drasztikus leépítésnek. Ugyanakkor a mostani eset egy komoly figyelmeztetés, hogy egyelőre sokkal óvatosabbnak kellene lenni ezen a fronton.
