A mesterséges intelligencia térnyerése folyamatosan új kihívások elé állítja a techcégeket, most a Meta egy nagyon érdekes hibába futott bele. Valós fotókat kezdett úgy kezelni a platformjain, mintha azokat MI-vel hozták volna létre a felhasználok. Elsőre mindenképpen úgy tűnhet, hogy a Meta rendszerében valami félrement, de ahogy kezd összeállni a kép, úgy szép lassan bizonyossá válik, hogy ismét az elhamarkodott fejlesztésekből fakadó problémák összecsúszásáról beszélhetünk.

A TechCrunch számolt be arról, hogy a Meta platformjain a fényképészek azt tapasztalják, hogy a rendszer valótlanul MI által generáltnak állítja be az újonnan feltöltött felvételeiket. Többen is példákkal jelezték, hogy a Facebook és az Instagram rendszerében valami nincs rendben. Az egyik esetben egy elismert, több mint 3 millió követővel rendelkező művész jelezte, hogy az egyik képe érhetetlen módon „Made with AI”, vagyis „MI-vel készült” címkét kapott. Globálisan többen is tapasztalták ugyanezt a jelenséget.

Februárban számolhattunk be arról, hogy a Meta elkezdi jelölni a generatív MI szolgáltatások használatával létrehozott alkotásokat. Ezt részben a hatóságok nyomására indította el a vállalat. A rendszer részben automatikusan működik, másként ez nem is mehetne, mivel a platformokra ma már annyi felvételt töltenek fel, amit képtelenség lenne ebből a szempontból kontroll alatt tartani. Lehet manuálisan is jelezni, ha egy képet mesterséges intelligencia hozott létre, de a rendszer magától is képes jelezni ezt, ha a felhasználó erről megfeledkezne.

Alapvetően nem lenne azzal gond, hogy egy képnél megjelenik az információ, hogy MI-vel alkották meg. Sőt mi több, mivel a mesterséges intelligencia visszaélések széles lehetőségét biztosítja, ez el is várható a közönség részéről. De a mostani esetben ez rosszul működik, ez pedig komoly gond. Jelen esetben a fényképészeket a Meta platformjai lényegében elhiteltelenítik azzal, hogy úgy állítják be bizonyos képeiket, mintha mesterséges intelligenciának köszönhetnék azokat, nem pedig a kiemelkedő fotós képességeiknek, tudásuknak.

Az egyik művész elmondta, hogy megpróbálta az „MI-vel készült” matricát eltávolítani, de nem járt sikerrel, nem tudta ezt megoldani. A beszámolójából kiderült, hogy az Adobe szoftverei lehetnek azok, amik a problémát okozzák. A fényképész szerint a Meta algoritmusa már akkor képes a generatív MI technológia jelenlétére figyelmeztetni, ha csak a Photoshopban található vágó eszközt és a JPEG exportálás előtti kisimító funkciót használja.

A Meta rendszerei képesek felismerni a feltöltött képekhez tartozó metaadatokban azt, ha a felvételen dolgozott a mesterséges intelligencia, az Adobe pedig egy ideje már megoldja azt, hogy a metaadatokba rögzítse a generatív MI „ujjlenyomatát”. A hibát tehát jó eséllyel ez okozza, hogy az Adobe által támogatott tartalomvédelmi rendszer tényleg minden apróság miatt úgy veszi, hogy a képet MI-vel hozták létre, még ha ez nem is igaz. A Lightroom és a Photoshop már egyre több eszköznél veti be a mesterséges intelligenciát, de ha ez így megy tovább, akkor már tényleg minden képre ki lesz biggyesztve a közösségi oldalakon, hogy azokat az MI alkotta. Szinte teljesen alaptalanul.

A vállalat az ügyben azt mondta, hogy folyamatban van a visszajelzések kiértékelése, és mérlegelik annak a lehetőségét, hogy ezt a funkciót miként tudnák megfelelően alkalmazni. Például elképzelhetőnek tartják azt, hogy egy olyan címkét hozzanak létre, ami már jelzi, hogy milyen mértékben használtak MI-t a tartalom létrehozása során.

Kiemelték, hogy miután szabványos fejlesztésekre támaszkodnak, és az ágazatban alkalmazott technológiákat használnak, így ezt összefogásban kell megoldaniuk. A technológiai szektor többi szereplőjével közösen kell azt elérni, hogy megfelelő kompromisszum szülessen a címkézés tekintetében. Némi előrelátással pedig azért észlelhető lett volna, hogy a jelenlegi formában ez nem tud megfelelően működni.