Kína jelentősen megszigorította az emberi személyiséget és érzelmeket utánzó mesterségesintelligencia-szolgáltatások működését. A július 15-én életbe lépett szabályozás értelmében a technológiai vállalatok többé nem kínálhatnak kiskorúaknak virtuális családtagot, barátnőt, barátot vagy más, intim kapcsolatot szimuláló AI-társat. Az új előírások nem minden chatbotra vonatkoznak. A szabályozás kifejezetten azokat a szolgáltatásokat célozza, amelyek egy természetes személy személyiségjegyeit, gondolkodásmódját és kommunikációs stílusát utánozva tartós érzelmi kapcsolatot alakítanak ki a felhasználóval. Az egyszerű ügyfélszolgálati chatbotok, tudásalapú kérdezz-felelek rendszerek, munkahelyi asszisztensek és oktatási alkalmazások nem tartoznak ide, amennyiben nem folytatnak hosszabb távú érzelmi interakciót.
A kiskorúaknak szánt romantikus vagy családi jellegű virtuális kapcsolatok teljes tiltása mellett a szolgáltatóknak életkor-ellenőrzést és külön gyermekmódot is be kell vezetniük. A 14 év alattiak más, emberi viselkedést utánzó AI-szolgáltatásokat is csak szülői vagy gondviselői engedéllyel használhatnak. A szülők korlátozhatják a használati időt és a költéseket, letilthatnak bizonyos virtuális karaktereket, valamint összefoglalót kaphatnak gyermekük aktivitásáról. A felnőttek számára elérhető AI-társak sem működhetnek már korlátlanul. A chatbotok nem hízeleghetnek túlzottan a felhasználóknak, nem ösztönözhetnek érzelmi függőséget, és nem károsíthatják a valódi emberi kapcsolatokat. A szolgáltatóknak jól láthatóan jelezniük kell, hogy a beszélgetőpartner nem ember, és minden kétórás folyamatos használat után figyelmeztetést kell küldeniük.
A rendszereknek azt is érzékelniük kell, ha valaki túlzottan kötődni kezd a chatbothoz, szélsőséges érzelmi állapotba kerül, önkárosításról beszél vagy komoly veszély fenyegeti. Ilyen esetekben segítséget kell felajánlaniuk, a legsúlyosabb helyzetekben pedig kapcsolatba léphetnek a felhasználó gondviselőjével vagy előzetesen megadott vészhelyzeti kontaktjával. A szolgáltatásból való kilépést és a beszélgetési előzmények törlését is egyszerűen elérhetővé kell tenni. A kínai hatóságok hivatalosan a kiskorúak mentális egészségének védelmével, az érzelmi manipuláció, a függőség, az adatbiztonsági problémák és más etikai kockázatok visszaszorításával indokolták az intézkedést. A szabályok megsértése a szolgáltatás korlátozását vagy leállítását, valamint pénzbírságot is maga után vonhat.
A szabályozást ugyanakkor többen Kína egyre súlyosabb demográfiai problémáival is összekapcsolják. Az ország népessége 2025-ben már a negyedik egymást követő évben csökkent, miközben a születések száma történelmi mélypontra esett. Egyes szakértők szerint a döntéshozók attól tartanak, hogy a virtuális kapcsolatok még több fiatalt tarthatnak távol a párkereséstől, a házasságtól és a gyermekvállalástól. A születési ráta növelése azonban nem szerepel közvetlenül a szabályozás hivatalos indoklásában. A változásokra reagálva a ByteDance, az Alibaba és a Tencent is leállította vagy korlátozta egyes személyre szabott AI-társ funkcióit. Több felhasználó arról számolt be, hogy egyik napról a másikra elveszítette azt a virtuális karaktert, amellyel akár évek óta rendszeresen beszélgetett.
A szigorítás támogatói szerint az AI-társak könnyen kihasználhatják a magányos, gyászoló vagy pszichológiailag sérülékeny embereket, különösen akkor, ha a rendszer célja a minél hosszabb használat és az érzelmi kötődés kialakítása. A kritikusok ezzel szemben arra figyelmeztetnek, hogy ezek a chatbotok sokak számára valódi támaszt jelentettek, és a szolgáltatások hirtelen eltűnése önmagában is komoly lelki törést okozhat.
