Múlt héten számoltunk be arról, hogy Taylor Swiftet és az X platformot egy átfogó „támadásnak” vetették alá illetéktelenek. Olyan képeket hoztak létre a generatív MI felhasználásával, amik erőteljes szexuális töltettel bírtak, ezek pedig rövid idő alatt önálló életre keltek, és több tízmillió emberhez jutottak el.

Az elkövetők valószínűleg azért választották az X-et, mert Elon Musk jelentősen visszaskálázta a moderációs csapatot, és ezt már mindenki kész tényként kezelte. Szóval nyílt titok, hogy a mikroblogon probléma van a moderálással, és nemcsak azért, mert az üzletember szeretne a szólásszabadságnak teret engedni. Szinte tényként lehet kezelni, hogy nincs elég erőforrása az X-nek ahhoz, hogy teljeskörű moderációról tudjon gondoskodni, és megfelelően felügyelje a felkerülő tartalmakat.

Korábban sok kritika érte a platformot a rosszul működő moderálási megoldások okán, de általában ezeket kivédték azzal, hogy a megszokottól eltérő módszerek véleményük szerint megfelelően működnek. Ezzel az EU sem értett egyet, éppen ezért már elindított egy vizsgálatot az X ellen. Könnyen lehet, hogy ez a vizsgálat már a mostani esetet is érinteni fogja a későbbiekben. A Taylor Swiftről terjesztett pornográf tartalmakkal nem nagyon bírt az X csapata, éppen egyért egy drasztikusabb eszközhöz nyúltak.

Az vállalat blokkolta a „Taylor Swift” és „Taylor Swift AI” kereséseket. Most igyekeznek minden mesterséges intelligencia által generált tartalmat felszámolni. De azért a tiltást is eléggé egyedi módon oldották meg, mert bár a bejegyzéseket nem hozza ki a mikroblog ezzel a címszóval, és a legutóbbi posztokat sem lehet listázni, de azért a feltöltött médiaállományokat meg lehet nézni. Ebben az esetben pedig éppen ez volt a lényeg, hiszen az énekesnő MI által generált mását ábrázoló képeket osztottak meg a platformon. Ráadásul a „Taylor AI Swift” keresések is simán átmenne. Szóval… De legalább próbálkoznak, talán már ezt is lehet értékelni.

A mostani helyzet kezelését tekintve tehát egy újabb jelentős arcvesztést könyvelhet el az X, de azt lehet látni, hogy ez az eset már tényleg változásokat indíthat el. Friss hírek arról számoltak be, hogy a vállalat azonnal hatállyal változásokat szeretne eszközölni. A Bloomberg számolt be elsőként arról, hogy Austinban egy teljesen új „megbízhatóság és biztonság” irodát hoznak létre, ahova legalább 100 teljes munkaidős dolgozót fognak felvenni.

Már nagyon forró az X lába alatt a talaj, szóval tényleg muszáj lenne lépnie ebben az ügyben. Nemcsak az EU vizsgálódik a mikroblog körül, hanem az Egyesült Államukban is van egy folyamatban levő ügye, ami a gyermekek szexuális kizsákmányolásával kapcsolatos tartalmak hatékonyabb kezelésére irányul. Linda Yaccarino január 31-én megy szenátusi meghallgatásra, ahol egészen biztos, hogy előkerül majd a moderáció kérdése is egyebek mellett.

Az új biztonsági csapat elsődlegesen a fiatalkorúakat ábrázoló pornográf tartalmak kezelésére fog fókuszálni, de egyéb tartalmakat is kezelhetnek majd, így például a generatív MI által létrehozott felvételek is a látókörükbe kerülhetnek. Joe Benarroch, az X üzleti működési vezetője a Bloombergnek azt nyilatkozta, hogy az új moderációs csapat besegíthet majd a gyűlöletbeszéd kezelésébe is, és egyéb területeken is mozgósítható lesz, és idővel egyre nagyobbra nőhet.

Ez lesz az első olyan alkalom az elmúlt lassan 1,5 évből, hogy Elon Musk biztonságra fókuszáló embereket vesz fel, és ilyen céllal épít új csapatot. Bízunk abban, hogy ezzel az X egy szebb jövő felé indul el.