Részben a saját érdekeiket szem előtt tartva, részben pedig a hatóságok nyomásgyakorlásának engedve, egyre több helyen vezetik be a generatív MI eszközöket biztosító cégek a vízjelezést. Azonban ennek megvannak az árnyoldalai, és az OpenAI állítólag azért nem vezeti be ezt a fejlesztését, mert tart a negatív hatásoktól.
A The Wall Street Journal arról számolt be a napokban, hogy a ChatGPT fejlesztője már egy éve rendelkezik olyan eszközökkel, amik a vízjel-rendszer bevezetéséhez szükséges. Ennek ellenére a vállalat nem veti be a technológiát. A pontossággal állítólag semmi gond nincs, és sokan örülnének annak, ha ez a lehetőség elérhető lenne, de a jelek szerint a vízjellel szemben felhozható érvek erőteljesebbek, mint amik mellette szólnának.
Az OpenAI vízjele a leírás szerint nem érzékelhető a hétköznapi emberek számára; nem lehet felfedezni a válaszok minőségében azt, hogy vízjellel van ellátva a ChatGPT által előállított szöveg. A vízjel észlelésére létrehozott eszköz abból képes felismerni a mesterséges intelligencia „ujjlenyomatát”, hogy azonosítja a mintázatot a szavak sorrendjében, az alkalmazott kifejezésekben. Más hasonló szöveges vízjelek is így működnek, ebben nincs semmi új, éppen ezért nem meglepő az, hogy a cég már rég készen áll ezzel a fejlesztéssel. Alaposan le is tesztelték, és úgy találták, hogy szinte teljesen tökéletesen üzemel.
99,9 százalékos hatékonysággal képet az OpenAI megmondani, ha egy szöveget a ChatGPT hozott létre.
Azt is lehet tudni, hogy a cég eszköze akkor is nagy magabiztossággal teszi a dolgát, ha a generált szöveget a felhasználó átfogalmazza, abban a reményben, hogy akkor majd nem lehet észlelni a mesterséges intelligencia keze nyomát. A rossz hír az, hogy ezzel a jelek szerint kár próbálkozni, de szó nincs arról, hogy megkerülhetetlen és bombabiztos lenne a metodika.
Ha egy felhasználó fog egy másik modellt, és azzal fogalmaztatja át a választ, akkor már rögtön oda a nagy pontosságú meghatározás. Márpedig ez azért nem egy nagy kihívás annak, aki az MI eszközöket használva szeretne bármilyen téren visszaélést elkövetni. A fordítással is össze lehet zavarni a szövegekben a vízjel felismerését. Elvileg dolgoznak azon, hogy egy olyan alternatív alkossanak, amik képes lenne kiszűrni még azt is, ha egy másik mesterséges intelligencia eszközt szabadítottak rá egy szövegre.
A legnagyobb félelme viszont valószínűleg nem az a cégnek, hogy a tanárok nem tudnák teljes bizonyossággal kiszűrni, a beadandókkal csaló diákokat, és a publikációk létrehozását kiszervező szakembereket. Sokkal inkább azért tarthatja ezt vissza a vállalat, mert tart a felhasználó tábor csökkenésétől. Ugyanis az egészen biztos, hogy kevesebben használnák a ChatGPT-t onnantól, hogy tudnák, magas a lebukás esélye.
Egy belső felmérés szerint a megkérdezettek 30 százaléka biztosan kevesebbet használná a szolgáltatást, ha a vízjelezés munkába állna.
Egy másik kutatásra hivatkozva az OpenAI azt is elmondta, hogy az emberek nem kérnek ebből a funkcióból, ha lenne is erre egy eszköz, akkor sem használnák. Állítólag négyből csak egy ember támogatná globálisan a mesterséges intelligencia munkáját felismerő eszköz bevezetését. Titkon pedig arra is jó esélyt láthat az OpenAI, hogy valójában még nagyobb mértékben esne vissza a ChatGPT használta, mint amit a felmérés mutat.
