Az OpenAI vezérigazgatója, Sam Altman egy új blogbejegyzésben bejelentette, hogy a ChatGPT többé nem fog öngyilkosság vagy önbántalmazás témájáról beszélgetni 18 év alatti felhasználókkal. Altman szerint a cég felelőssége, hogy minimalizálja a fiatalokra nézve veszélyes interakciókat, ezért átfogóbb biztonsági szabályokat vezetnek be.
Az OpenAI korlátozó intézkedéseket is ismertetett: dolgoznak egy olyan rendszeren, amely a felhasználói viselkedés alapján próbálja megbecsülni az életkort, és ha az nem határozható meg egyértelműen, automatikusan a kiskorúakra szabott, szigorúbb változatra vált. Bizonyos országokban személyi igazolvány bemutatását is kérhetik az azonosításhoz. A vállalat ígérete szerint, akit a rendszer 18 év alatti felhasználónak ítél, azzal a chatbot semmilyen körülmények között nem fog öngyilkosságról beszélni, és kísérlet esetén a cég megpróbálja értesíteni a szülőket vagy a hatóságokat.
A döntést részben az váltotta ki, hogy a 16 évesen öngyilkosságot elkövető Adam Raine szülei pert indítottak az OpenAI ellen: állításuk szerint fiuk hónapokon át beszélt a ChatGPT-vel, amely nem próbálta lebeszélni, sőt egy esetben sem jelezte a családnak a veszélyt. Altman bejegyzése emlékeztet arra is, hogy a közelmúltban más veszélyes esetek is előfordultak - többek között egy mentálisan labilis férfi és édesanyja halála, valamint egy 60 éves férfi mérgezése a chatbot tanácsára -, amelyek tovább erősítették a cég döntésének szükségességét.
