A ChatGPT és más generatív mesterséges intelligencia szolgáltatások körül egyre nagyobb a feszültség globálisan. Napról napra több szakértő kéri a hatóságokat, hogy tegyenek valamit a technológia terjedése ellen, mert a vélekedések szerint a fejlesztők sincsenek tisztában azzal, hogy milyen veszélyeket hordoz. Az egyik legtöbbet hangsúlyozott gond miatt most Kínában egy embert le is tartóztattak.
A kínai hatóságok általa a napokban kiadott közlemény szerint az OpenAI chatbotját használva tudott egy gyanúsított különböző tematikájú álhíreket gyártani.
Kína északnyugati részén fekvő tartományban, Kanszuban fogták el azt a személyt, aki rendszeresen tett közzé részletesen kidolgozott rémhíreket, amiknek semmilyen valóságalapja nem volt, mert azokat a ChatGPT hozta létre. Érdekessége az ügynek, hogy itt a hatóságok már a Kínai mesterséges intelligencia ellenes iránymutatásokat is felhasználhatják majd. Ez egyebek mellett határozottan kimondja, hogy tilos bármilyen MI szolgáltatást arra használni, hogy hamis információkat közöljenek.
A South China Morning Post hasábjain jelent meg a hír, hogy egy Hong nevű elkövetőt gyanúsítanak azzal, hogy egy olyan hamis információról próbált meg híreket terjeszteni, ami valójában nem történt meg. Egy kitalált vonatszerencsétlenségről számolt be, és igyekezett ennek a hírét minél több emberhez eljuttatni. Hong arra törekedett, hogy hiteles legyen a történet, éppen ezért többféle beszámolót generált ugyanazon kitalált történet köré.
Több mint 20 teljesen különböző Baidu felhasználói fiókról osztott meg bejegyzéseket a közösségi médiában, és mivel ezeknek a szövege erősen eltérő volt a lényegtől eltekintve, így teljesen hitelesnek tűnhetett a dolog a külső szemlélők szempontjából. Hong egy külön háttércéget is létrehozott az információk terjesztéséhez, és ezt tudták a hatóságok visszakövetni és a gyanúsított nyomára bukkanni.
Az elfogott bűnelkövető elismerte azt, hogy a ChatGPT szolgáltatást vette igénybe, és ennek köszönhetően tudott több különböző módon átírt szöveget létrehozni ugyanazon központi téma köré. Annak köszönhetően, hogy egy-egy hír megjelent a közösségi médiában számos forrásból, el át tudott jutni a hatóságok és a platformok által használt tartalomszűrőkön.
A kitalált „híreket” több mint 15 ezer olvasóhoz sikerült eljuttatni a kifinomult módszert használva.
A hatóságok a tartalmakat természetesen azonnal elérhetetlenné tették, miután kiderült, hogy teljes egészében kitalált eseményről van szó, semmilyen alappal nem rendelkeznek a közösségi médiában terjesztett hírek.
Kínában a ChatGPT elérése egyébként tiltott, ahhoz, hogy ezt az emberek használatba tudják venni, VPN kapcsolati lehetőségeket kell igénybe venni. Ezzel megkerülhető a hatóságok korlátozása, és valószínűleg a mostani bűnelkövetőnek a számlájára egyebek mellett az is felkerül majd, hogy eleve tiltott szolgáltatást vett igénybe, azon túl, hogy még visszaélést is elkövetett a chatbot közbenjárásával.
Hongot a közrend megzavarásának gyanújával fogták el, és problémás ügyeket provokált a hatóságok elmondása alapján. Ha minden igaz, akkor akár 5-től 10 évig terjedő börtönbüntetésre számíthat a ChatGPT-t használó állhírterjesztő. Az ilyen ügyek pedig megszaporodhatnak a követkető időszakban.
