A Meta új biztonsági rendszert vezet be, amely értesítheti a szülőket, ha felügyelet alatt álló tizenéves gyermekük öngyilkosságról vagy önsértésről beszélget a Meta AI-jal. A riasztást nem automatikusan küldik ki, előtte a vállalat egyik munkatársa is megvizsgálja az AI által megjelölt beszélgetést. A Meta AI eddig is segélyvonalakhoz irányította azokat a fiatalokat, akiknek az üzenetei arra utaltak, hogy kárt tehetnek magukban. A chatbot emellett arra ösztönözte őket, hogy forduljanak szülőhöz, iskolai tanácsadóhoz vagy más megbízható felnőtthöz. Az új rendszer ezt egészíti ki a szülők közvetlen értesítésével.
A funkció egy külön erre a célra fejlesztett AI-rendszerrel keresi a veszélyre utaló jeleket. Nemcsak az egyértelmű kijelentéseket vizsgálja, hanem azokat a finomabb utalásokat is, amelyek önsértési vagy öngyilkossági gondolatokra engedhetnek következtetni. A Meta ugyanakkor nem bízza teljesen az algoritmusra a döntést. Minden megjelölt beszélgetést emberi moderátor ellenőriz, és csak ezt követően kaphat értesítést a szülő. A vállalat szerint bizonytalan esetekben inkább az óvatosságot választják, így előfordulhat, hogy akkor is figyelmeztetést küldenek, amikor nincs közvetlen veszély.
Az értesítés mellé szakértők által összeállított segédanyagokat is adnak, amelyek abban támogatják a szülőket, hogyan kezdjenek beszélgetést a gyermekükkel. A Meta nem azt ígéri, hogy a rendszer képes pontos diagnózist felállítani, hanem azt szeretné elérni, hogy a családok hamarabb észrevegyék, ha egy fiatalnak segítségre lehet szüksége. A riasztások kizárólag azoknál a családoknál működnek, amelyek használják az Instagram szülői felügyeleti eszközeit. A funkció elsőként az Egyesült Államokban, az Egyesült Királyságban, Ausztráliában és Kanadában válik elérhetővé, a Meta tervei szerint pedig 2026 végéig más országokra is kiterjesztik.
A vállalat egy ennél is komolyabb beavatkozási lehetőségen dolgozik. Ha egy felnőtt vagy fiatalkorú Meta AI-jal folytatott beszélgetése közvetlen öngyilkossági veszélyre utal, a rendszer a jövőben értesítheti a segélyszolgálatokat. Hasonló eljárást már most is alkalmaznak a Facebookon és az Instagramon közzétett bejegyzéseknél. A Meta szerint 2025-ben világszerte több mint 19 ezer ilyen esetet továbbítottak a segélyszolgálatokhoz, hogy azok ellenőrizhessék az érintett felhasználók állapotát. Az AI-beszélgetéseket érintő rendszer azonban még fejlesztés alatt áll, ezért bevezetésének időpontját nem közölték.
A vállalat több mint 75, tizenévesek mentális egészségével foglalkozó szakemberrel egyeztetett a Meta AI válaszainak javításáról. A szakértők több száz példán vizsgálták meg, megfelelően reagál-e a chatbot az önsértésről és öngyilkosságról szóló üzenetekre. A visszajelzések alapján a Meta azt szeretné elérni, hogy az AI ne egyszerűen megszakítsa az érzékeny beszélgetést, hanem előbb elismerje a fiatal érzéseit, majd biztonságosabb segítség felé terelje. A chatbotnak ugyanakkor ilyen helyzetekben nem feladata terápiás szerepet vállalni vagy egyedül kezelni a válságot.
A Meta az Instagram szigorúbb Limited Content beállítását is kiterjeszti az AI-beszélgetésekre. Ha egy szülő ezt aktiválja, a Meta AI a szokásosnál több érzékeny kérdés megválaszolását utasítja vissza. A tizenéves fiókok alapértelmezés szerint már most is korosztályuknak megfelelő korlátozásokat használnak. Az új funkció a biztonság mellett adatvédelmi kérdéseket is felvet, hiszen különösen személyes beszélgetésekbe enged betekintést a szolgáltatónak és közvetve a szülőknek. A Meta szerint ezért alkalmaz emberi felülvizsgálatot, és csak azoknál a beszélgetéseknél küld értesítést, amelyeknél a kockázat ezt indokolhatja.
