A mesterséges intelligenciát egyre többen használják, és nemcsak jó célokkal vetik be a technológiát, hanem visszaéléseknél is jó szolgálatot tehetnek az ilyen eszközök. Hosszú ideje tényként lehet már ezt kezelni, és most a Microsoft arról nyíltan beszélt arról, hogy tudomásuk van arról, hogy az OpenAI-jal közös fejlesztéseiket hackerek is alkalmazzák.
A kiberbűnözők a ChatGPT és a Copilot szolgáltatásokat igénybe véve igyekeznek a támadásaikat még kifinomultabb formában végrehajtani. Újfajta visszaélések is megjelentek, miközben a korábbi eljárásokat is egy magasabb szintre tudták emelni az illetéktelenek.
Konkrétan kiemelte a Microsoft, hogy államok által támogatott hackercsapatok is a nagy nyelvi modellek felé fordultak, hogy hatékonyabb támadásokat tudjanak végrehajtani nemzetközi szinten. Jellemzően a nyugatot támadó csoportokról beszélt a redmondi szoftveróriás. Elmondása alapján az OpenAI már orosz, észak-koreai, iráni és kínai visszaélésekre is felfigyelt az elmúlt időszakban. Arról nem esik szó, hogy az Egyesült Államokban ilyennek jele mutatkozna.
A Microsoft és az OpenAI úgy látja, hogy az idegen hackerek élen járnak a mesterséges intelligencia alkalmazásában. Az tudni kell, hogy a nagy nyelvi modelleket már számos módon igyekeznek korlátozni a fejlesztők, hogy ellehetetlenítsék a kiberbűnözőket. Ugyanakkor nem ringatják magukat hiú álomba, pontosan tisztában vannak azzal, hogy a hackerek folyamatosan dolgoznak azon, hogy a védvonalakat megkerüljék.
„Kiberbűnözői csoportok, nemzetállami szintű veszélyes szereplők, és más agresszorok kutatják és próbálják ki a különböző MI technológiákat, amint azok megjelennek. Megpróbálják felmérni a potenciális értéküket a tevékenységeik szempontjából, és a biztonsági ellenőrzéseket, amelyeket meg kell kerülniük” – írja a Microsoft a friss blogbejegyzésében.
Egészen konkrét példákat is felfedett most a Microsoft, ami kicsit meglepő. Arról írnak egyebek mellett, hogy az orosz hadsereghez köthető Strontium csoport például tudomásuk szerint az LLM-ek révén próbálta megérteni a műholdas kommunikációs összeköttetések működését, akadályozását. Mint az ismeretes, az ukrán haderő a fronton például a Starlinket használta az akadálytalan kommunikációra. A Strontium ezen felül radartechnológiák kiismerésére és specifikus támadási technikák kidolgozására is bevetette az MI-t.
Az észak-koreai Thallium hackerosztag publikus sebezhetőségekről való információgyűjtésre és elemzésre alkalmazta a nagy nyelvi modelleket. Ezen felül alapvető programozási feladatokban is segítségül hívták a ChatGPT-t és más szolgáltatásokat, hogy hatékonyabb támadásokat tudjanak végrehajtani.
Iránban a Curium csoport tagjai a generatív MI-t fogták munkára, hogy jobb adathalász e-maileket tudjanak létrehozni. Így hatékonyabban tudtak kicsalni információkat a célszemélyekből. De például olyan kódok generálására is próbálták az LLM-eket használni, amikkel egy-egy támadás során képesek lehetnek elkerülni azt, hogy a vírusirtó bármit észleljen. A kínai hackerek pedig még az egyszerű fordítási munkákat is előszeretettel szervezték ki a mesterséges intelligenciának, miután már ebben is jobbak ezek, mint a legtöbb fordító szoftver.
A Microsoft és az OpenAI sokat dolgozik azon, hogy az MI-t rossz célokra használókat kiszűrje, de ez igazából csak a jéghegy csúcsa. Ma már direkt kiberbűnözők tevékenységét támogató szolgáltatások is vannak, abba pedig belegondolni is rossz, hogy mit hozhat a jövő. Ezért fontos az, hogy mindenki nagyon elővigyázatos legyen, a Microsoft pedig próbál a hackerek előtt járni.
