A generatív MI fantasztikus dolgokra képes, ez kiderült az elmúlt nagyjából egy év alatt, viszont az is nyilvánvaló vált, hogy nem kellene olyan gyorsan az emberek kezébe nyomni, ahogy jelenleg a terjesztése megy. Szinte minden komolyabb újítást botrányok követnek, és most a Meta is beállt a sorba ebből a szempontból.
A Meta múlt héten beszélt arról, hogy a különböző szolgáltatásait nagyon érdekes funkciókkal vértezi fel, melyeknek az alapját a vállalat saját fejlesztésű mesterséges intelligenciája és nagy nyelvi modellje, a Llama 2 biztosítja. Illetve ezen felül a cég összefogott a Microsofttal is, hogy a lehető legjobb megoldásokat tudja letenni az asztalra.
A Messengerben elérhetővé válik egy olyan chatbot, ami rengeteg különböző személyiséget tud „megeleveníteni”, és képeket is lehet majd generálni szöveges parancsokat használva. Ezen felül fotók szerkesztésére is be lehet majd fogni az MI-t, promptoknak megfelelően alakíthat át meglévő képeket, sőt mi több, lényegében korlátlan mennyiségű matrica hozható ezzel létre. A matrica generáláson sokat dolgozott a Meta, de a legfrissebb beszámolók alapján nem eleget.
Minden további nélkül lehet olyan matricát készíteni, ami Karl Marx számára nagy melleket ad, péniszt varázsol Ted Cruz politikusból vagy gyerekek kezébe ad fegyvert.
A matricák létrehozására szolgáló funkció nagyon jól működik a végeredményt tekintve, szóval abból a szempontból igazából nem érheti szó a ház elejét, hogy milyen minőségben teljesíti az emberek kéréseit. Tényleg olyan matricákat tud létrehozni egészen egyszerű és tömör parancsok alapján is, amik úgy néznek ki, mintha komoly grafikusok munkája lenne bennük. Ráadásul tényleg kellően változatos is a produkciója.
Mint olya sok MI-vel kapcsolatosan feltárt problémánál, a hiba igazából a felhasználókban van. Az emberek szokás szerint azonnal arra mentek rá, hogy feltárják a szolgáltatás határait, és gyorsan kiderült, hogy igazából a Meta meglehetősen lazára és engedékenyre konfigurálta a matricageneráló eszközt. Konkrét meztelenkedést és véres erőszakot már nem enged át, de ezen kívül szinte mindent megtesz, amit csak kérnek tőle. Pillanatok alatt tud nagyon erős szexuális és erőszakos töltetű matricákat gyártani.
A Meta egyelőre csak az angol nyelvet felhasználók egy szűk csoportjának tette elérhetővé ezt az újítást, de már ez is elég lett ahhoz, hogy rengeteg olyan visszajelzés jelenjen meg az interneten, ami bemutatja a funkció veszélyeit. Direkt beírtak a rendszer számára ártatlannak tűnő, de kétértelmű parancsokat is, és bizony a mesterséges intelligencia ilyenkor is hajlamos volt felnőtteknek szóló matricákat alkotni, pedig a parancsot úgy fogalmazták, hogy azt akár egy ártatlan tini is írhatta volna egészen másra gondolva.
Fegyvereket és nemiszerveket előszeretettel ábrázol, de tényleg akkor is képes erőszakos dolgokat kihozni, ha a megadott parancs még csak nem is utalnak arra. Az egyszerű „World Trade Center” parancsra létrehozott olyan matricát, melyen a felhőkarcoló éppen lángokban állva, az összeomlás szélén látható. Ebből pedig az következik, hogy a tiltott szavak szigorításával sem lehet gyorsan kikezelni a funkció erőszakosságát.
A Meta jelentős lemaradással követi a Microsoftot és a Google-t a különböző MI fejlesztések terén, de úgy fest, hogy nem tanult a többiek hibáiból, és nem teszteli kellő alapossággal a különböző fejlesztéseket, csak arra törekedik, hogy ezeket minél gyorsabban be tudja vetni. A mostani események tükrében pedig elég kétes a sikerként lehet az újításokat elkönyvelni.
