Egy Magyarországon üzemelő bank meglehetősen érdekes büntetést kapott tavaly. Az ügy nem kapott nagy figyelmet, pedig meglehetősen érdekes dologtól van szó. Az ügyfélszolgálati rendszer mögött működő mesterséges intelligencia miatt szabott ki bírságot a NAIH szervezete.
A Nemzeti Adatvédelmi és Információszabadság Hatóság a bankot rekord összegre büntette meg - derült ki egy friss éves jelentésből. 250 millió forintos rekord bírságot kell fizetnie a pénzintézetnek, aminek a nevét azért nem említjük, mert ezt az információt a Deloitte sem hozta nyilvánosságra. Szóval nem tudni, melyik bank követte el az adatkezelési jogsértést, de a büntetéssel az is együtt járt, hogy meg kellett szüntetnie a jogsértő magatartást. De mi is okozta pontosan a problémát?
A bank által üzemeltetett telefonos ügyfélszolgálat dedikált mesterséges intelligenciája túlzottan ügyesnek bizonyult, és az adatok kezelését sem a szabályoknak megfelelően oldotta meg. A rendszer nemcsak azt figyelte, hogy az emberek a vonal másik végén milyen kulcsszavakat mondanak ki, hanem azt is, hogy milyen érzelmi állapotban lehetnek, és még egyéb jellemzőket is próbált megállapítani.
A cél az volt, hogy ezáltal a bank fel tudta azt mérni, hogy mely ügyfelek voltak elégedetlenek az ügyintézéssel. Ezt az információt pedig arra használta fel a vállalat, hogy a tisztában legyen azzal, hogy mely ügyfeleket érdemes a személyzetnek visszahívni. Hiszen azok az emberek, akik elégedetlenek a szolgáltatásokkal, ügyfélkezeléssel, könnyebben hagyják ott az adott intézményt, és mennek át a konkurenciához.
Sorrendet is képes volt felállítani a rendszer az eredmények alapján, szóval még azt is megpróbálta megállapítani, hogy mely ügyfelek lehettek azok, akik különösen zaklatott állapotba kerültek, éppen ezért minél előbb vissza kellett őket hívni. A mesterséges intelligencia által felállított prioritási rendhez olyan adatokra volt szükség, amit a Nemzeti Adatvédelmi és Információszabadság Hatóság szerint nem lenne szabad rögzíteni.
A NAIH szabálytalanságokat tárt fel abban is, ahogyan az adatok tárolva voltak. Minden hívás anyagát el lehetett érni még 45 nappal később is, és vissza lehetett azokat hallgatni. A rendszer azt is mentette, hogy milyen érzelmi stádiumot állapított meg, valamint azt is lehetett tudni, hogy mely kulcsszavakat ismerte fel az adott beszélgetés során.
A hatóságok utasította az érintett bankot arra, hogy hagyjon fel az érzelmi állapot elemzésével a mesterséges intelligencia esetében, és az adatkezelés terén is szüntesse meg a jogsértő magatartást. Módosítsa az adatvédelmi eljárásait úgy, hogy az megfeleljen az általános adatvédelmi szabályzatnak (GDPR), és a felhasználói jogok biztosításáról is gondoskodjon. Amennyiben ezt nem teszi meg, abban az esetben újabb büntetésekkel számolhat.
A különböző vállalatok egyre nagyobb arányban használnak már mesterséges intelligenciával megtámogatott telefonos ügyfélszolgálatot, és ez új adatvédelmi kihívásokkal jár. De a mostani példa azt mutatja, hogy a Nemzeti Adatvédelmi és Információszabadság Hatóság tartja a lépést a korral, és készen áll arra, hogy a modern korral járó új adatvédelmi problémákkal szembe nézzen.
