Napjainkban az online zaklatás hatalmas problémát jelent, és vannak olyan munkakörök, amik különösen ki vannak ennek téve. A közösségi oldalakon gyakorta kerülnek az áldozat szerepébe azok, akik újságírással foglalkoznak, vagy olyan közéleti szereplőként tevékenykednek, hogy széles közönséggel kerülnek kapcsolatba nap mint nap.
A különböző felületeken szinte már minden esetben vannak olyan funkciók, amik a zaklatók, erőszakosan megnyilvánulók ellen védenek, viszont ezeknek a hatékonysága sokszor nem túl jó. Ezért határozta el a Google, hogy megpróbál egy olyan rendszert létrehozni, ami nyílt forráskódú, platformtól függetlenül üzemeltethető, és hatékonyabb védelmet biztosít a felhasználók számára.
Az újdonság a Google égisze alatt, a Jigsaw részleg munkája révén jött létre. Erről valószínűleg korábban nem hallottak még az olvasóink. Egy olyan egységről van szó, ami a társadalmi problémákat okozó fenyegetések kutatásával foglalkozik, napjaink legújabb veszélyforrásait igyekeznek feltárni. A technológia fejlődése ugyanis mindig előidézett újabb problémákat, és a Google-nél erre külön szakemberek figyelnek. A Jigsaw részleg feladata, hogy eszközöket hozzon létre a várható problémák kezelésére.
A nyílt forráskódú eszköz Harassment Manager néven született meg, szóval nem árul zsákbamacskát. Ezzel még nagyon sok munka lesz az elkövetkezendő időszakban, ugyanis a cél az, hogy minden főbb közösségi platformmal lehessen használni, Viszont minden felülethez meg kell oldani külön a kompatibilitást. Első körben a Twitter API-ja lett beemelve, kombinálva a moderációs funkciókkal.
A Harassment Manager lehetőséget nyújt a bejegyzésekre érkező válaszok gyors elrejtésére, a felhasználókat pedig nemcsak blokkolni, hanem egyszerűen némítani is lehet. Így továbbra is követők maradhatnak, de nem írhatnak a fiók tulajdonosának. Továbbá létre lehet hozni különböző szűrési tömböket, amik tudják majd a tevékenységet monitorozni, és egy fejlett jelentési funkció is biztosított lesz, ami leegyszerűsíti a felhasználói visszajelzések kezelését.
Az üzeneteket képes a rendszer osztályozni a nyelvezet alapján; itt arra kell gondolni, hogy a „toxikusság” szintjét fogja a Harassment Manager figyelni. A szavak alapján nagy hatékonysággal tudja majd megállapítani, hogy milyen szinten sértő üzenetről van szó, és az inzultáló, fenyegető és trágár dolgokat ki tudja majd szűrni. Arra is képes lesz az új fejlesztés, hogy az üzeneteket összerendezze a kezelőfelületen, és itt módja nyílik majd az embereknek arra, hogy egységesen válaszoljanak, nem kell ezt egyenként megtenni ugyanabban a témában.
Egyebek mellett arra is lehetőséget nyújt majd a Harassment Manager, hogy a felhasználók különálló jelentéseket tölthessenek le, amik tartalmazzák a fenyegető, erőszakos üzeneteket. Ez maradandó bizonyítékként szolgál majd akkor, ha később például eljárást indít az ember az ellen, aki megfenyegette a kibertérben, esetleg hamis állításokkal vádolta meg.
A nemzetközi nőnap alkalmából külön kiemelte azt is a Google fejlesztői csapata, hogy különösen sok nemi alapú bántalmazással találkozhatnak a nők napjainkban, és a Harassment Manager így a hölgyek számára egy különösen jó megoldás lehet majd. "Reméljük, hogy ez a technológia megfelelő eszköznek bizonyul majd az online zaklatással szembesülő emberek számára, különösen a női újságírók, aktivisták, politikusok és más közszereplők számára, akik aránytalanul sok fenyegetéssel szembesülnek online” – olvasható a Jigsaw bejegyzésében.
A Google az elmúlt években már több moderációs megoldást is létrehozott, szóval van már tapasztalata ezen a területen. Olyan böngésző kiterjesztést is alkotott egyebek mellett, ami a támogatott nyelvek esetén megakadályozta, hogy a jó eséllyel toxikus üzeneteket ne lássák a felhasználók a közösségi oldalakon. És arra is nyújtott eszközt, hogy az emberek által végzett moderációnak biztosítson gépi tanulással működő támogatást.
A Harassment Manager nem egy kész alkalmazás, csak alapot biztosít annak. Az első rendszer, ami ezt használni fogja a Thomson Reuters Alapítvány újságírói számára biztosított program lesz, ami júniusban fog debütálni.
