A napokban a The Wall Street Journal hasábjain megjelent egy beszámoló arról, hogy áll az OpenAI azzal a fejlesztéssel, ami elvileg ledönti majd a ChatGPT korlátait a szexuális tartalmú beszélgetések frontján. A fejlesztés jelen állás szerint nem áll túl jól.
Októberben beszélt arról először hivatalosan az OpenAI vezetője és társalapítója, Sam Altman, hogy a ChatGPT-ben elérhető lesz majd egy olyan mód, amelyben “piszkos csevegésbe” lehet bonyolódni a mesterséges intelligenciával. A szakember szerint sikeresen megoldotta az OpenAI fejlesztőcsapata, hogy olyan formába öntse ezt a lehetőséget, ami nem hordoz magában veszélyt. Legalábbis nem okoz “súlyos mentális egészségügyi problémákat”.
A korábbi információk alapján az idei első negyedévben kellett volna az újdonságnak megjelennie, de az OpenAI úgy döntött, hogy elnapolja a kétes megítélésű funkció bevezetését.
A vállalat arról beszélt, hogy nagyobb prioritást igénylő fejlesztések miatt került jégre a különleges mód, ám belső információk szerint igazából nem erről van szó. Valójában az állhat a funkció jegelése mögött, hogy jelentős belső félelmeket váltott ki az erotikus beszélgetési lehetőség engedélyezése. Nagyon megütheti a bokáját az OpenAI, ha valami balul sül el. Ráadásul az utóbbi időben enélkül is elég rossz a megítélése az amerikai kormánnyal ápolt kapcsolata miatt.
A The Wall Street Journalnak nyilatkozó névtelen forrás elmondása alapján több szempontból is gond van a speciális móddal. Egyrészt nagyon komoly technológiai kihívást jelent az a terület, ahol ügyesen kellene terelgetni a beszélgetéseket a ChatGPT-vel. Másrészt ott a biztonsági kockázat, melynek kizárása igen nehéz.
Az egészséges erotikus beszélgetések megteremtése egy elképesztő kihívás. Elsőre talán nem hangzik nehéz feladatnak, de a generatív MI egy olyan területre téved ezzel, ahol valóban emberi döntéseket kéne meghoznia. Tudnia kellene, hogy milyen erotikus beszélgetés az, ami még etikus, és mikor akarja az ember átlépni a vörös vonalat. Például fel kellene ismernie a pedofília minden jelét, és elkerülnie ezt. Továbbá az is nehéz, hogy a fiatalkorúak garantáltan el legyenek zárva ettől a módtól.
Az OpenAI kor-ellenőrző rendszere a teszteken még túl sokszor vérzik el. Elvileg 100-ból 12 esetben felnőttként azonosít gyerekeket, akik így hozzáférést szerezhetnének az erotikus beszélgetési módhoz.
Bármilyen rés marad a ChatGPT erotikus módjának pajzsán, azzal célkeresztet rajzol a homlokára az OpenAI. Abban pedig biztosak lehetünk, hogy a megjelenést követően azonnal sokan esnének neki az új lehetőségnek, hogy megtalálják rajta a biztonsági réseket.
Az OpenAI felfogadott egy tanácsadócéget és készültek kockázatelemzések. Az egyik érintett névtelenül elárulta, hogy az állt a jelentésben, hogy a ChatGPT felnőtt módjával egy “szexi öngyilkossági segítőt” alkot a vállalat. Ezzel arra utalt az illető, hogy a ChatGPT esetén eleve felmerül annak a veszélye, hogy öngyilkosságra buzdíthatja az embereket, és ezt ötvözni az erotikus csevegésekkel, jelentősen fokozza a veszélyeket.
Kíváncsian várjuk, hogy mikor fogja az OpenAI elérhetővé tenni a különleges beszélgetési módot. Aki ilyen lehetőségre vágyik a generatív MI eszközök körében, annak a Grok egyébként megfelelő választás lehet az xAI ehhez a kérdéshez lényegesen lazábban állt hozzá, mint az OpenAI. Musk néhány napja úgy nyilatkozott, hogy a kép- és videógeneráló eszköze is megengedi azt, amit egy felnőtteknek szóló filmben láthatnak az emberek.
