Az Európai Unióban nagyon szigorúan veszik a mesterséges intelligencia eszközökre vonatkozó előírásokat, legalábbis ahhoz képest, amit más országokban lehet látni. Az EU tüzetesen szokta vizsgálni a generatív MI technológiákat a bevezetésük előtt, és most az Európai Bizottság elsőként indít átfogó vizsgálatot a Grok ellen az elmúlt hetekben kipattant képgenerálási botrány miatt.
Nagy port kavart az év elején, hogy a Grok chatbot saját képszerkesztő funkciója alkalmas arra, hogy az emberekről készült felvételeken az ábrázolt személyeket levetkőztesse, lenge öltözetben vagy akár teljesen meztelenül mutassa. Ráadásul azzal sem foglalkozott a rendszer, hogy a felvételen kiskorú szerepel, gyerekekről is gond nélkül gyártotta az erotikus felvételeket. A fejlesztésre a Grok csapata hívta fel a figyelmet az X-en egy olyan képpel, ami Elon Muskot ábrázolta bikiniben.
Az X már több alkalommal került az európai biztosok látóterébe, és most az X-et és a Grokot együtt kezdi a hatóság vizsgálni, azt szeretnék megállapítani az EU digitális szolgáltatások koordinátorai, hogy Elon Musk platformja megfelel-e a DSA-nak, vagyis a digitális szolgáltatásokról szóló jogszabálynak. A gyanú szerint az X nem gondoskodott a kockázatok felméréséről és azok csökkentéséről, mikor a mikroblogba integrált chatbot új funkcióit.
A DSA értelmében minden újítást részletes és mélyreható kockázatelemzésnek kell alávetni, melynek keretében ki kellett volna derülnie annak, hogy a Grok hajlamos jogszabálysértően üzemelni. Hiszen az EU-ban illegális szexuális töltetű formán manipulált képeket létrehozni és terjeszteni, valamint a gyermekek szexuális bántalmazását ábrázoló tartalmakat készíteni. Az előzetes információk alapján a Grok bőven kimeríti a kiskorúak jogainak potenciális veszélyeztetését a képszerkesztő funkcióval.
A mostani vizsgálatot csatolja az Európai Bizottság ahhoz az ügyhöz, amit még 2023 december 18-án indítottak az X mikrobloggal szemeben. Ennek köszönhetően gyorsabb lehet a vizsgálat. Persze így sem érdemes arra számítani, hogy egyhamar eredmény születne. Hatása viszont előbb lesz ennek. Az EU illetékesei felszólították az X-et és a Grokot a jogsértő magatartás megszüntetésére.
A platformnak el kell végeznie a megfelelő kockázatelemzést a mostani funkcionalitás mellett, és szigorítania kell a Grok működésén.
A vizsgálat gyorsabb és eredményesebb lefolytatása érdekében több nemzettel együtt dolgozik majd a bizottság. Ezen felül arra kérik a lakosokat, hogy akik úgy érzik, hogy az áldozatai a Groknak vagy bármilyen egyén MI eszköznek, azok a DSA megsértésére hivatkozve tegyenek panaszt.
Az Európai Bizottság elmondása alapján országos szinten nyújtanak segítséget és támogatást azoknak, akiket az MI által generált képek – többek között a gyermekek szexuális bántalmazását ábrázoló anyagok vagy a beleegyezés nélkül készült intim képek – negatívan érintettek. Jelen állás szerint ez lehet az Európai Unió első olyan eljárása, amiben generatív MI eszköz ellen járnak el, és büntetést szabnak ki. Abban viszont biztosak lehetünk, hogy nem az utolsó ilyen eljárásról beszélhetünk.
