1. oldal
Ahogy egyre önállóbb gépkocsik kerülnek ki a fejlesztők kezei körül, egyre gyakrabban merülnek fel erkölcsi kérdések azzal kapcsolatban, hogy baj esetén milyen faktorok alapján kellene döntést hoznia a gépi rendszereknek. Vagyis például ha az úttest egyik felén egy csapat gyerek tartózkodik, a másikon pedig egy idős úr, akkor kivel kerülje el az ütközést az autonóm jármű? Vagy ha egy kisgyerek kiszalad az úttestre egy családot szállító autó elé, mit tegyen a robotpilóta? Üsse el a gyereket, vagy a családot veszélyeztetve rántsa félre a kormányt?
Az ilyen és ehhez hasonló kérdések tisztázása érdekében egy pszichológusokból és informatikusokból álló kutatócsoport a tavalyi évben átfogó vizsgálatot végzett azzal kapcsolatban, hogy az Egyesült Államokban élők szerint hogyan kellene viselkednie egy önvezető autónak. A féltucat különbözőképpen összeállított online felmérés egyik fő tanulsága az volt, hogy a válaszadók többsége egy olyan világban szeretnének élni, ahol mindenki önvezető autóval közlekedik, így lecsökken a közlekedési balesetek áldozatainak száma, ugyanakkor azt is kívánják, hogy saját autójuk minden áron védje meg a benne ülők testi épségét.
Amikor a szakértők azt kérdezték a résztvevőktől, hogy ha egy önvezető autó csak utasai veszélyeztetése árán tudja elkerülni a két, három vagy tíz gyalogossal való ütközést, az emberek többsége határozottan úgy vélte, hogy ilyen esetben az utasokat kell feláldoznia a mesterséges rendszernek a nagyobb jó érdekében. Még akkor is elég egyöntetű volt a válasz, amikor a megkérdezetteket arra kérték, hogy úgy válaszoljanak, hogy magukat és családtagjaikat képzelik az autó utasainak helyébe.
Az egyik kérdőív kitöltői közül például 75 százalék vélte úgy, hogy ha tíz gyalogos és egy utas között kell választani, a gépkocsi utasának feláldozása a helyes döntés. Ez alapján tehát úgy tűnik, hogy az emberek többsége tisztán morális szempontból egyetért abban, hogy az autóknak vészhelyzet esetén arra kellene törekedniük, hogy minél kisebb legyen az áldozatok száma, és ennek érdekében az utasok is feláldozhatók.
Amikor azonban a kutatók azt a kérdést tették fel a résztvevőknek, hogy önvezető autó vásárlása esetén a haszonelvű, vagyis az áldozatok számát minimalizáló vagy az önző, azaz az utasok védelmét első helyre helyező gépkocsi mellett döntenének-e, a többség ez utóbbi megoldást választotta. A haszonelvűség tehát csak addig hangzik jól, amíg mások bőrére megy a játék, amint saját kocsit kell választani, az önzőség nyer, mondják a kutatók.
A dilemma további vizsgálatára az MIT kutatói időközben létrehoztak egy közösségi platformot is, ahol egy feladatsor kitöltésével bárki beleszólhat a közvélemény alakításába azzal kapcsolatban, hogy az autonóm járműveknek hogyan kellene dönteniük a morálisan kétséges helyzetekben. A Moral Machine oldalára ellátogatók eldönthetik például, hogy végzetes fékhiba esetén két utast vagy öt gyalogost ölnének-e meg (az ütközés ezekben a képzelt szituációkban mindig valakinek a halálával végződik), de olyan összetettebb problémák is felmerülnek, hogy hogyan árnyalódik a döntés, ha nők, férfiak, gyerekek, idősek, kutyák, a piroson átszaladók vagy éppen bankrablók bukkannak fel a potenciális áldozatok között.
A tesztet kitöltő megnézheti azt is, hogy döntései hogyan viszonyulnak az átlaghoz, vagyis a többi kitöltő válaszaihoz, és hogy mennyire haszonelvűek, szabálykövetőek vagy éppen szexisták saját megoldásai. Arra is lehetőség van, hogy a válaszadók részletesen megindokolják döntéseiket és ezeket megvitassák másokkal. Emellett saját morális dilemmákat is létrehozhatnak az oldalra látogatók. A platform célja, hogy tudományos keretek közt vizsgálja, hogyan vélekednek az emberek a gépek moralitásáról, mondja Iyad Rahwan, a Moral Machine egyik létrehozója.
Míg azonban a Moral Machine kétségkívül jó, bár kissé bizarr játék, és kiválóan illeszkedik az önvezető autókkal kapcsolatos közbeszédhez, több szakértő is úgy véli, hogy mind a korábban említett kutatás, mind az MIT platformja alapvetően téves feltevésekből indul ki, és a fejlesztés szempontjából jelen formában nem sok gyakorlati haszna van. A legnagyobb probléma, hogy mindkét vizsgálat kimondatlanul is azt feltételezi, hogy az emberi sofőrök ugyanúgy erkölcsi alapon hoznak döntéseket vészhelyzetekben, mint ahogy azt a gépektől elvárjuk.
2. oldal
Holott az ember ilyen szituációkban leginkább csak pánikol, és nem azon gondolkodik, hogy morális szempontból a tilosban járó nagymamát vagy a zöldön átszaladó bakrablót helyesebb-e elütni. Az emberi autóvezetők vészhelyzetekben többnyire egy dologra törekednek: hogy elkerüljék az ütközést, mondja Michael Ramsey, a Gartner önvezető járművekkel foglalkozó elemzője. Arra pedig nem igazán figyelnek, hogy közben kinek ártanak és kit mentenek meg.
Ezzel a véleménnyel többen is egyetértenek. „Ez a probléma veszélyesen túl van lihegve” – mondja Bryant Walker Smith, az autonóm gépjárművekkel kapcsolatos kérdések egyik legismertebb jogi szaktekintélye. Jeffrey Miller, a Dél-Kaliforniai Egyetem kutatója szerint az önvezető autók kapcsán messze nem az a legfontosabb morális kérdés, hogy egy problematikus helyzetben két élőlénycsoport közül kit öljön meg a jármű. Ennél sokkal lényegesebb az, hogy milyen helyzetekben sértse meg a rendszer a közlekedési szabályokat, ha ezzel növeli a közlekedés biztonságát. Vagyis hogy mikor hajtson gyorsan (például ha ezzel együtt halad a forgalommal), vagy mikor menjen át a piroson (ha így elkerül egy ütközést).
Ezek azok a morális döntések, amelyek ténylegesen részei az emberi sofőrök mindennapjainak, mondja a szakértő. Az MIT platformja pedig pontosan ezekre a problémákra nem tér ki. A Moral Machine-on felmerülő dilemmák rendkívül ritkán fordulnak elő valós közlekedési helyzetekben, és az önvezető autók korában csaknem teljesen elkerülhetővé kellene válniuk. Arról nem is beszélve, hogy a vázolt helyzetek képtelenségeket feltételeznek, hiszen azt sugallják, hogy az autonóm jármű olyan gyorsan halad ugyan, hogy nem tud megállni, de valahogyan mégis képes különbséget tenni egy terhes nő, egy gyerek vagy egy nagymama között, magyarázza Ramsey.
Erre alkalmas technológia pedig még nem létezik, vagyis a kérdéses járművek még hosszú ideig nem fogják tudni észlelni azokat faktorokat, amelyek alapján a közvélemény szerint mérlegelniük kellene. Rahwan egyetért azzal, hogy nagyon összetett problémákról van szó, de szerinte vizsgálat eredményei alapján kidolgozható lehet egy olyan gépi döntési mechanizmus, amely többé-kevésbé elfogadható az emberiség számára.
A platform továbbá olyan kérdések megválaszolásában is segíthet, mint hogy például be kell-e avatkoznia a szabályozó szerveknek, ha az egyik gyártó olyan autót dob piacra, amely nagyobb utasbiztonságot nyújt, de magasabb eséllyel üt el gyalogosokat, mint versenytársa. Az oldal legérdekesebb hozadéka pedig kétségkívül annak felmérése lehet, hogyan vélekednek az emberek a gépi moralitásról, és hogy ebben milyen kulturális és regionális sajátságok lelhetők fel. A Moral Machine-t eddig nagyjából 2 millióan keresték fel, összesen 14 millió döntést hozva meg a tesztek kitöltése során.
Hogy ennek aztán milyen befolyása lesz az autonóm gépjárművek fejlesztésére, az megint más kérdés. Rahwan maga is leszögezi, hogy a Moral Machine nem valós helyzeteket másol, és jelentősen leegyszerűsíti a balesetek és azok elkerülése kapcsán felmerülő problémákat. Arra ugyanakkor rávilágít, hogy emberként milyen nehéz ilyen döntéseket hoznunk, és hogy ezeket mennyire problematikus algoritmusokká lefordítani. „Az kétségtelen, hogy fontos lépés a helyes irányba, hiszen megindítja a diskurzust az autonóm gépjárművek etikájával kapcsolatban” – teszi hozzá Miller is.
A kérdőíves felmérés és a Moral Machine által felvetett erkölcsi kérdések dzsungelében könnyű szem elől téveszteni a teljes képet, vagyis hogy az önvezető járművek azzal kecsegtetnek, hogy használatuk révén drasztikusan csökkenthet a közlekedési balesetek és az utakon elhunytak száma. A balesetek túlnyomó része emberi hiba, ittas, figyelmetlen vagy rosszul döntő sofőrök vagy szabálytalan, oda nem figyelő gyalogosok következtében történik meg. Az emberi tényező egyik oldalon való kiiktatásával óriási mértékben javulhat az utak biztonságossága.
Ehhez azonban az kell, hogy az emberek megvegyék az autókat, és megbízzanak az azokat vezető mesterséges rendszerekben, így a fejlesztések társadalmi és pszichológiai vonatkozásait sem szabad figyelmen kívül hagyni, mondja Rahwan. Ez pedig akár azzal is együtt járhat, hogy a fejlesztők kénytelenek lesznek (átmenetileg) hanyagolni a haszonelvű autonóm járművek ötletét, magyarázza Joshua Greene, a Harvard pszichológusa. Ezen járművek – vagy bármely más, emberileg nehezen elfogadható döntési mechanizmussal rendelkező rendszer – népszerűtlensége ugyanis jelentősen lelassíthatja az önvezető technológia, és vele a biztonságosabb közlekedés elterjedését. Ebből a szemszögből nézve tehát egyáltalán nem közömbös, hogy a Moral Machine látogatói mit várnak az önvezető autóktól.
