Az OpenAI új biztonsági funkciót vezet be a ChatGPT-ben, amely lehetővé teszi, hogy a rendszer értesítsen egy előre megadott "megbízható kontaktot", ha a felhasználó önkárosítással vagy öngyilkossági gondolatokkal kapcsolatos beszélgetést folytat.
Az AI mentális egészségre gyakorolt hatásával kapcsolatban hosszú ideje verjük már a tamtamot, illetve az összes valamirevaló szakértő, akinek a kutatásaira támaszkodtunk. Az OpenAI korábbi adatai szerint a heti felhasználók 0,15 százaléka mutatott önkárosításra vagy öngyilkossági kockázatra utaló jeleket.
Mivel a cég szerint a világ lakosságának nagyjából 10 százaléka használja hetente a ChatGPT-t, ez akár több millió embert is érinthet.
Az új rendszer a korábban bevezetett szülői figyelmeztetésekre épül, amelyek már most is jeleznek, ha egy tinédzser felhasználó bajban lehet. Az OpenAI szerint a funkció fejlesztésében mentális egészségügyi szakemberek, kutatók és öngyilkosság-megelőzési szervezetek is részt vettek.
A "Trusted Contact" funkció minden 18 év feletti felhasználó számára elérhető lesz a ChatGPT beállításain belül. A felhasználók megadhatnak egy másik felnőttet megbízható kapcsolattartóként, például telefonszám és e-mail-cím segítségével. A kijelölt személy egy meghívót kap, amelyet egy héten belül fogadhat el vagy utasíthat el.
Ha a funkció aktív, az OpenAI automatizált rendszerei figyelhetik, hogy a felhasználó beszélgetéseiben megjelennek-e súlyos önkárosítási kockázatra utaló jelek és ilyen esetben a rendszer először figyelmezteti a felhasználót, hogy értesíthetik a megbízható kapcsolatát, és arra ösztönzi, hogy maga is vegye fel vele a kapcsolatot.
A végső döntést azonban nem automatika hozza meg, az OpenAI egy speciálisan képzett valódi emberekből álló csapata vizsgálja meg az esetet, és dönti el, szükséges-e értesítést küldeni.
A kapcsolat e-mailben, SMS-ben vagy az alkalmazáson belüli üzenetben kap tájékoztatást. Az OpenAI hangsúlyozta, hogy az értesítés nem tartalmaz konkrét beszélgetéseket vagy chatnaplókat, kizárólag általános információt arról, hogy a rendszer önkárosítással kapcsolatos aggodalmat észlelt.
A cég szerint a funkció nem helyettesíti a professzionális segítséget vagy a krízisvonalakat, a ChatGPT továbbra is arra ösztönzi a veszélyeztetett felhasználókat, hogy szükség esetén forduljanak valódi segítséghez.
