Az MI frontvonalon továbbra is meglehetősen nagy a káosz, arra pedig nem igazán érdemes várni, hogy egyhamar gátat szabnának a törvények a káros szolgáltatások terjedésének. A Google éppen ezért most kicsit önhatalmúan próbálja megregulázni például azokat a programokat, amik az Androidon akarnak érvényesülni.

Nemcsak az online szolgáltatások körében történt robbanás a generatív MI-vel, hanem a mobilokra szabott alkalmazások terén is. A Google pedig egyre kevésbé nézi jó szemmel azt, hogy szélsőséges applikációk is megjelentek ilyen formában. A vállalat támogatja a sokszínűséget és a széles lehetőségek biztosítását, azt azonban nem, hogy káros tartalmak jelenjelnek meg az applikációkban, márpedig a visszajelzések szerint a generatív MI egyre több kárt okoz ezen a téren.

Úgy döntött a Google, hogy az offenzív és problémás tartalmak létrehozását a továbbiakban sokkal nagyobb szigorral fogja figyelni. Új moderációs szabályokat vezet be a különböző mesterséges intelligencia alkalmazásokhoz kapcsolódóan. A vállalat egyebek mellett már világosan meg fogja azt határozni, hogy milyen jellegű tartalmak létrehozása az elfogadott a platformon, és mi az, amit a jövőben nem fog engedélyezni.

Egyelőre azt nagyon nehéz megmondani, hogy mekkora lesz ennek a hatása, de az biztos, hogy a szabályozásra szükség van a piactereken, és jó hír, hogy a Google Play Áruház ennek köszönhetően tisztább lehet. Egyebek mellett azt is megköveteli majd a keresőóriás, hogy minden alkalmazásban, ami MI technológiákat használ tartalmak generálására, legyen egy dedikált gomb azzal a céllal, hogy az offenzív, szabályellenes anyagokat azonnal jelenteni lehessen a vállalat irányába.

Azt is szeretné a Google elérni, hogy a felhasználóknak minden eddiginél egyszerűbb legyen a generatív MI által létrehozott káros tartalmakat jelenteni. Hiszen azt jól tudja, hogy az emberek nem szeretnek ilye dolgokkal foglalkozni, ha egy-egy jelentést megtenni több perces procedúra. Fontos lesz például az, hogy a jelentést az appon belül tudni kell megoldani, nem vihet át semmilyen más felületre a szolgáltatás. A lehető legegyszerűbb jelentési rendszert kell integrálnia a generatív MI szolgáltatásoknak.

Azt is megtudhattuk, hogy a mesterséges intelligencia által generált tartalomra vonatkozó szabályzat nem feltétlenül fog mindenre egyenértékűen kiterjedni. Érvényes lesz minden esetben például a különböző csevegőbotokra, képek létrehozására szolgáló alkalmazásokra, és persze az olyan szolgáltatásokra is, amik már hanganyagok, vagy akár videók létrehozására is alkalmasak lehetnek, élő emberek „megszemélyesítését” tehetik lehetővé. Ugyanakkor kivételt képezhet ez alól, ha egy szoftver például könyvek, dokumentumok, weboldalak szövegének összefoglalására alkalmas, szóval nem létrehoz teljesen új dolgot, hanem egy forrásból dolgozik.

Külön kiemelte a Google, hogy keményebben fogja majd azokat a szoftvereket, amik alkalmasak lehetnek szexuális tartalmat megjelenítő deepfake anyagok megalkotására, illetve valós személyekkel kapcsolatos felvételekből hozhatnak létre mások megtévesztésére használható tartalmakat. Említi a vállalat specifikusan a választási manipulációt is, de a látószögében vannak a rosszindulatú, visszaélésekben használható kódok létrehozására alkalmas appokat is.

Elmondta a Google, hogy a nagyobb szigorra azért van szükség, mert a generatív MI jelenleg egy rendkívül dinamikusan fejlődő alkalmazás kategória, és pontosan tisztában vannak ennek a veszélyeivel, valamint az általános szabályozás hiányával. Elismerték, hogy eddig nem kezelték elég határozottan ezeket az appokat, de azon lesznek, hogy a jövőben már más legyen a helyzet.

A Google a generatív MI-hez közvetlenül kapcsolódó új szabályozás mellett bevezet friss engedélyezési opciókat az azokban az appokban, amik képek vagy videók kezelésére alkalmasak. Erre a cég szerint azért van szükség, mert manapság már sokkal érzékenyebb adatként tekintenek a felhasználók a különböző felvételeikre, miközben ezzel párhuzamosan pedig egyre több szoftver akar ezekhez különböző okokra hivatkozva hozzáférni.

Minden eddiginél nagyobb veszélyforrást jelenthet a felhasználókra nézve fotók és videók kiszivárgása, éppen ezért a cég szeretné az adatvédelem hatékonyságát fokozni. Minimalizálni kell a Google szerint az adatszivárgás lehetőségét, így egyre több esetben csak átmeneti elérési engedélyt kapnak majd az appok a fotókhoz, videókhoz, az általános eléréseket pedig minimálisra szorítaná a cég.