A mesterséges intelligenciával elkövetett visszaélések egyre gyakoribbak, ezt a technológiát nagyon könnyen lehet használni rossz célokra, amire most egy remek példát hozott az élet. Az Egyesült Államokban generatív MI csalás miatt tartóztattak le egy tornatanárt, aki az iskola igazgatójával szeretett volna kiszúrni, de nem jött be a húzása.

Mióta a ChatGPT színre lépett, azóta lényegében napi téma lett az, hogy a mesterséges intelligencia mennyire jól használható az emberek megtévesztésére átverésére. A technológia fejlődése pedig csak egyre inkább súlyosbítja a helyzetet. Mostanra nagyon sok olyan esetről lehet hallani, mikor generatív MI-vel követnek el csalásokat. Mi is foglalkoztunk már ilyen esetekkel, például az év elején nagy port kavart egy olyan kifinomult MI támadás, amiben több millió dollárral károsítottak megy egy céget. A most napvilágra került ügy nem volt ennyire szofisztikált, és az pedig éppen emiatt érdekes.

Egy hétköznapi tornatanár követett el egy olyan visszaélést, melyben meghamisította az intézmény igazgatójának a hangját. A baltimore-i oktató azt szerette volna elérni, hogy kirúgják az izgatót, ami akár össze is jöhetett volna, ha valamivel ügyesebben jár el. Szerencsére ebből az esetből az elkövető jött ki rosszabbul.

A The Baltimore Banner számolt be arról, hogy hírünk „főhőse” hangklónozási technikát bevetve létrehozott egy olyan hanganyagot, melyen az igazgató  különböző rasszista, fajgyűlölő és antiszemita megjegyzéseket tesz egy imitált egy zárt ajtók mögött elhangzó beszélgetésben. Mint azt megtudhattuk a beszámolóból, az igazgatót egy rövid időre fel is függesztették az ügy miatt, de viszonylag gyorsan sikerült azt tisztázni, hogy nem valódi a felvétel. Viszont ez idő alatt nagyon sok gyűlölködő üzenetet kapott telefonhívások és üzenetek formájában is.

Az igazgató állította, hogy ő nem mondott olyan dolgokat, mint amik a felvételeken szerepelnek, de nem meglepő módon azért ezt nem hitték el elsőre, akik hallották az anyagot. A szakértői vizsgálat során már hamar rájöttek az illetékesek, hogy a felvétel tényleg nem stimmel. A beszámoló szerint „a lapos hang, a szokatlanul tiszta háttérhangok, és a következetes légzési hangok vagy szünetek hiánya” buktatta le a hangklónozással készített felvételt.

A nyomozás hamar eljutott a tornatanárhoz, akinek a neve el is hangzik a generatív MI eszközzel létrehozott hangfelvételen. Több szálon is össze tudták kötni a hanganyaggal, így sikerült minden kétséget kizáróan beazonosítani. A tanár ellen eljárás indult és le is tartóztatták. Azt még nem tudni, hogy mi lesz a büntetése, de bízunk abban, hogy igyekeznek majd példát statuálni.

A hangklónozás nagyon veszélyes lehet, és ahogy haladunk előre, ezen a téren úgy jönnek az egyre hatékonyabb eszközök. Már most vannak olyan eszközök, amik néhány mondatból, pár másodpercnyi beszélgetésből képesek létrehozni egy hatékonyan hasznosítható hangmintát.

A politikában is sokan tartanak attól, hogy a generatív MI-t felhasználva követhetnek majd el visszaéléseket, ahogy arra volt is már példa mostanra. Amerikában például Joe Biden hangját használva kerestek meg embereket telefonon, és azt igyekeztek elérni, hogy az emberek ne menjenek el szavazni. De talán ennél is érdekesebb volt az a pakisztáni eset, melyben a börtönben ülő elnök hangját használták fel a választási kampányban, hogy így tudjon szólni a polgárokhoz.