Évről évre egyre többen szólalnak fel az MI technológiák szigorúbb ellenőrzése érdekében, és ezek a kérések leginkább az Európai Unióban szoktak hallgató fülekre találni. Az EU szinte egyedüliként próbál látványosan azon dolgozni, hogy kordában tartsa a mesterséges intelligencia újításokat. A Claude is egy európai jogszabály miatt lesz a jövőben transzparensebb.
Bejelentette az Anthropic, hogy a későbbiekben a Claude chatbot által létrehozott szövegek és képek egyaránt vízjellel lesznek ellátva. Ez a vízjel elsősorban “gépi olvasással” ismerhető majd fel, tehát az arra alkalmas rendszerek, szoftverek tudják majd nagy megbízhatósággal felismerni, hogy a vizsgált tartalmat részben vagy teljes egészében a mesterséges intelligencia alkotta.
„A generált szövegekbe vízjelek kerülnek beágyazásra, a generált fájlok pedig – amennyiben ez támogatott – digitálisan aláírt eredetjelző metaadatot tartalmaznak majd” – írja az Anthropic a frissített Claude támogatói oldalon.
Az elmúlt években számos eszköz született azzal a céllal, hogy a mesterséges intelligencia nyomait felfedje, és megállapítsa az MI-vel elkövetett visszaéléseket. Ezek azonban az esetek túlnyomó többségében megbízhatatlanul üzemelnek – csak arra alkalmasak, hogy az emberek közötti bizalmatlanságot fokozzák. Ezen a területen is jól működő eszközökre van szükség, ám a szakemberek szerint ehhez elengedhetetlen, hogy a vállalatok rendesen biztosítsák a vízjeleket.
Az Európai Unió a hónap elején jelentette be, hogy az AI Act jogszabály keretei között bevezeti a mesterséges intelligencia tartalmak címkézési rendszerét az átláthatóság fokozására. Ez kötelezően előírja a generatív MI-vel alkotott anyagok jelölését, ezen belül pedig két külön kategóriát állapít meg: vannak az MI-vel generált és az MI-vel szerkesztett, módosított tartalmak. Ezek különböző címkét is kaptak, de az nem világos, hogy például a Claude képes lesz-e megkülönböztetni a teljesen generált és a módosított tartalmakat.
Az Európai Unió MI tartalomjelölésre vonatkozó előírásai négy hónapos türelmi idővel kerültek bevezetésre, ami azt jelenti, hogy a vállalatoknak még ebben az évben gondoskodniuk kell arról, hogy a frissített AI Act jogszabálynak megfeleljenek. Ha ezt nem teszik meg, akkor az EU vizsgálatot indíthat, és azt látva, hogy mostanában mennyire aktív az Európai Bizottság, nincs kétségünk afelől, hogy ezt meg is lépik.
Az Anthropic a jövőben bevezetésre kerülő Claude modelleket már az első naptól kezdve úgy fogja alkalmazni, hogy azok jelölni fogják a generált anyagokat. A jelenleg üzemelő modellek viszont még nem gondoskodnak erről, de elvileg a frissítés már ezekhez a Claude variánsokhoz is készül.
Tartalomformától függően két külön megoldást alkalmaz majd az Anthropic a vízjel elhelyezésére. A képek, fájlok esetén a C2PA rendszert használja majd (a Google, az OpenAI és az Adobe ezt már használja), a szöveges válaszok pedig egy másik módszerrel lesznek jelölve, ami szó szerint a sorok között fog megbújni.
„Amikor egy támogatott Claude modell szöveget generál, egy észrevehetetlen vízjelet sző közvetlenül magába a szövegbe. Ez nem látható, és nem változtatja meg a Claude válaszának jelentését, minőségét vagy olvashatóságát” – emelte ki a vállalat.
Mint azt megtudtuk, bárhova másolja a felhasználó a szöveget, a vízjel felfedhető marad. Akkor is kivehető ez, ha módosít a szövegen az ember, de azért nem tökéletesen golyóálló az eljárás. Ha kifejezetten rövid szövegrészről van szó, akkor abban nem lesz jól elrejthető a vízjel, illetve az erőteljesen módosított, nagyon átfogalmazott szövegekben is elveszhet a Claude modellek ujjlenyomata.
Globális és általános vízjelezést alkalmaz majd az Anthropic, nem kíván külön az EU számára gondoskodni erről. A cég korábban is tett már lépéseket az átláthatóságért, így nem meglepő, hogy az új szabályozás alól sem keresi a kibúvót. A Claude API, a Claude chatbot, a Claude Code, a Claude Cowork és a Claude Tag is gondoskodni fog a vízjelezésről. Az sem számít, hogy ki a szolgáltató, az AWS, a SpaceXAI, a Google Cloud és a Microsoft rendszere mellett is ugyanúgy működik majd az összes fejlesztés.
