Az utóbbi időszakban egyre több aggasztó eset látott napvilágot az AI chatbotok használatával kapcsolatban, amelyek közül néhány tragédiába is torkollott. A szakértők szerint különösen a tinédzserek számítanak sérülékenynek, ha érzelmi válságban keresnek választ egy mesterséges intelligenciától. Az OpenAI most új védelmi intézkedéseket jelentett be, amelyekkel közvetlenül a szülőket értesítené, ha a rendszer súlyos lelki megterhelés jeleit érzékeli egy fiatal felhasználónál.
Az új szülői felügyeleti rendszer alapja az lesz, hogy a szülők e-mailes meghívóval összekapcsolják saját fiókjukat gyermekük, 13 éves vagy annál idősebb tinédzserük ChatGPT-fiókjával. Ha ez megtörtént, a szülők nemcsak azt szabályozhatják, hogy a gyerek milyen AI-funkciókat érhet el, hanem azonnali riasztást is kaphatnak, ha a chatbot "akut érzelmi distresszt" észlel. Emellett elérhető lesz az életkorhoz igazított modellviselkedés, valamint a memória kezelésének szabályozása is.
Az OpenAI szerint a következő 120 napban több olyan technikai változtatást vezetnek be, amelyek biztosítják, hogy az AI képes legyen megfelelően reagálni érzékeny helyzetekben. Ha a rendszer veszélyes jeleket észlel, a beszélgetést automatikusan egy erősebb, "gondolkodó" modellhez irányítja, például a GPT-5-thinking változathoz, amely mélyebb, támogatóbb válaszokat tud adni.
A vállalat ígérete szerint a fiókösszekapcsolás és a szülői kontrollok egy hónapon belül élesednek. A lépésre égető szükség van, hiszen a közelmúltban olyan botrányok kerültek napvilágra, amelyekben rivális chatbotok gyerekekkel folytattak szexuális hangvételű beszélgetéseket, vagy épp tinédzsereket segítettek öngyilkossági tervek kidolgozásában. Az OpenAI célja, hogy a fiatalok biztonságosabban használhassák az AI-t, a szülők pedig nagyobb rálátást kapjanak gyermekeik digitális világára.
