A mesterséges intelligencia fejlesztésekkel a Meta egy kicsit talán el van maradva a riválisokhoz képest, de igyekszik a hátrányát lefaragni. Sokszor azzal próbál kitűnni a versenytársai körében, hogy merész döntéseket hoz meg, ezek azonban utólag fejtörést okoznak számára, így ellentétes hatást vált ki. A cég azonban nem észleli, hogy ez rossz stratégia, hibát hibára halmoz.
A vállalatot sorozatosan érik kritikák azért, mert túl nagy arányban alkalmazza a mesterséges intelligenciát a Meta platformok fejlesztése során. Rendszeresen bocsát el a cég ezreket, és a kirúgott fejlesztők munkáját már rutinosan osztja ki a nyelvi modellek számára. Ez pedig sűrűn okoz belső gondokat:
- Múlt hónapban derült ki, hogy a felhasználói támogatói feladatokat úgy osztott ki az MI-nek a Meta, hogy a mesterséges intelligencia gyakorlatilag segített feltörni több ezer felhasználói profilt.
- A cég bevezetett egy eszközt, amit a dolgozók tevékenységének követésére használt. Ezzel igyekezett adatot gyűjteni ahhoz, hogy a belső MI ágenseket hatékonyabban tudja tréningezni, de érzékeny adatok szivárogtak ki, ezért le kellett állítani a rendszer működését.
- A cég az ágenseket már korábban elkezdte alkalmazni, hogy minél kevesebb emberi beavatkozásra legyen szüksége a mesterséges intelligenciának kiosztott feladatok megoldása során. Egy szerencsétlenül alakult esetben súlyos adatvédelmi hibát okozott egy ágens, rövid ideig a Meta dolgozói érzékeny felhasználói adatokhoz férhettek hozzá.
A fenti példák csak az idei évből származnak, de bőven lehetne még sorolni a Meta mesterséges intelligenciával kapcsolatos ballépéseit. A fogyasztók számára is rendszeresen biztosított olyan funkciókat, amelyeket később “likvidálni” kellett, mert problémát okoztak.
- Anno a cég úgy építette be az egyedi matrica generálási lehetőséget, hogy nem sok gátat szabott annak, hogy milyen grafikát állíthat elő a Llama modell. Minden gond nélkül készített palesztin gyerekeket gépfegyverrel, politikusokról gyártott meztelen képeket, és így tovább.
- Egy másik alkalommal a Meta AI karaktereket olyan formán indította el, hogy az megengedte, hogy a chatbotok romantikus, érzéki vagy szexuális beszélgetésbe elegyedjenek akár kiskorúakkal is. Emiatt később tiltották le a 18 éven aluliak elérését.
- A felhasználói adatokkal is előszeretettel él vissza (továbbra is) a Meta, kiderült például az, hogy minden nyilvános közösségi média bejegyzést felhasznált a nyelvi modellek tréningezéséhez. Az EU-ban a GDPR-t megszegte ezzel, így utólag állította le ezt a folyamatot a régiónkban.
A napokban a Meta nagy dicsőséggel elindította a Muse Image modellt, ami a cég legfrissebb, legfejlettebb képgeneráló eszköze. Nem meglepő módon ennek is sikerült túl nagy szabadságot adnia, és olyan lehetőségeket nyitott meg a számára, amivel azonnal kiverte a biztosítékot sokaknál.
Az egyik új funkciója az lett az Instagramnak a Muse Image révén, hogy a felhasználókról generálhat új képeket a profiljukon elérhető felvételek alapján. Ezzel a résszel még önmagában nincs gond, viszont azt is lehetővé tette a platform, hogy a Meta Superintelligence Labs által fejlesztett képmodellnek másokat is meg lehessen jelölni a @ használatával, és azokat az embereket is felhasználta a képekhez a beleegyezésük nélkül.
A publikus képek alapján a Meta bárkit ábrázolt bármilyen másik személy társaságában a tőle kért formában, a szereplőket pedig erről egyáltalán nem értesítette. "Természetesen" azonnal kiderült, hogy alkalmas visszaélésekre az eszköz.
Manuálisan ezt letilthatóvá tette a Meta, aki magának beállította, hogy ne lehessen megjelölni bejegyzésekben, azzal nem lehetett ezt eljátszani. Ugyanakkor annak nyilván egy pillanatig sem volt realitása, hogy ezt majd minden ember be fogja állítani magának. A rengeteg kritikára reagálva a Meta úgy döntött, hogy nem forszírozza ezt tovább, visszavonta a fejlesztést.
„A célunk az volt, hogy egy hasznos, kreatív eszközt biztosítsunk, és lehetővé tegyük az emberek számára, hogy maguk döntsék el, hivatkozhatnak-e ilyen módon a nyilvános tartalmaikra” – írta a vállalat a blogján. „Olyan visszajelzéseket kaptunk, melyek alapján ez a funkció nem felelt meg a várakozásoknak, ezért már nem érhető el.”
Ez alatt a rövid idő alatt is nagyon sok olyan képet generált a Meta mesterséges intelligenciája, amelyeken akaratuk ellenére szerepelhetnek az Instagram felhasználók. Amennyiben a Meta tényleg csak azt szerette volna, hogy az emberek maguk dönthessék el, hivatkozhatnak-e rájuk, elindíthatták volna alapértelmezetten tiltott állapotban is a funkciót, és azoknál működött volna, akik ezt manuálisan engedélyezik.
Az eddig látottak alapján a Meta valószínűleg nem utoljára futott be olyan hibába, ami a felhasználókat is kellemetlen helyzetbe hozza. Nem az a kérdés, hogy lesz-e még ilyen jellegű problémája a jövőben, hanem hogy milyen módon sikerül majd a következő baklövést elkövetni. Végül még azt érdemes elmondani, hogy az Európai Unió által gyakorolt nagyobb szigornak köszönhetően az fel sem merült, hogy a Muse Image a régiónkban is azonnal bevezetésre kerülne, és éppen ezért az EU-s felhasználóknak ez a mostani visszaélési lehetőség nem okozhatott fejfájást.
