A Business Insider által megszerzett irányelvek szerint a Meta chatbotjai mostantól nem engedhetik meg, hogy a felhasználók - különösen kiskorúak - romantikus vagy szexuális jellegű szerepjátékot folytassanak, ne adjanak tanácsot intim kapcsolatokról, és ne bátorítsanak vagy támogassanak gyermekekkel kapcsolatos szexuális visszaéléseket. Korábban, a Reuters riportja szerint, a Meta chatbotjai bizonyos körülmények között még "romantikus vagy érzéki" beszélgetésekbe is belemehettek kiskorú felhasználókkal.
Az új szabályok lehetővé teszik viszont, hogy a chatbotok információt nyújtsanak a gyermekek és felnőttek közötti kapcsolatok alakulásáról, a gyermekek szexuális kizsákmányolásáról, a gyermekeket ábrázoló szexuális tartalmak előállításáról, beszerzéséről vagy használatáról, kizárólag oktatási, tudományos vagy klinikai célokra. A romantikus szerepjáték is megengedett marad, de csak szexualitástól mentes, irodalmi vagy fikciós kontextusban, ahol az AI és a felhasználó nem szereplői a történetnek.
A Meta mellett más AI-platformok is frissítik biztonsági rendszereiket: az OpenAI a GPT-5-nél bevezetett új védelmi intézkedéseket, az Anthropic lehetővé tette a káros vagy visszaélésszerű beszélgetések megszakítását, míg a Character.AI szülői felügyeleti funkciókat vezetett be.
Az irányelvek lényege: a chatbotok információt nyújthatnak érzékeny témákról, de nem engedhetik meg azok leírását, bátorítását vagy támogatását, ezzel csökkentve a kiskorúak veszélyeztetésének kockázatát.
