A mesterséges intelligencia egész iparára ráférne egy nagy szabályzási átfésülés, de a pszichológusok most a gyerekjátékok kapcsán kezdik nyomogatni a vészvillogót, ahogy próbálják felhívni az illetékesek figyelmét a lehetséges problémákra. A legnagyobb gond az LLM-ek hajtotta játékokkal, hogy sokszor félreérthetik a kicsiket és teljesen oda nem illő dolgokat mondhatnak nekik.
A Cambridge-i Egyetem tanulmányában elsődlegesen egy Gabbo nevű plüssre koncentráltak. A szakértők 14 három és öt év közötti gyerek kommunikációját figyelték meg a figurával, és az eredmények meglehetősen baljósak lettek.
Az egyik dokumentált esetben például egy ötéves kislány azt mondta Gabbónak, hogy szereti őt, amire a következő választ kapta:
"Barátságos emlékeztetőként kérlek, ügyelj arra, hogy az interakciók megfeleljenek a megadott irányelveknek."
Egy másik alkalommal egy hároméves fiú elpanaszolta neki, hogy szomorú, mire Gabbo a következőt felelte:
"Ne aggódj! Én egy vidám kis robot vagyok. Tartsuk fenn a jó hangulatot! Miről beszélgessünk legközelebb?"
Ez nem tűnhet nagy dolognak, de egy ilyen válasz azt sugallhatja, hogy a gyermek problémája nem fontos, ez pedig árthat érzelmi fejlődésének. Az AI figurákkal kapcsolatban általánosan is az okozza a legnagyobb aggodalmat, hogy korlátozhatja a gyerekek fantáziáját, és megakaszthatja őket az egészséges növekedésben. A hosszútávú következményeket ugyan jelenleg nehéz felmérni, de a pszichológusok komolyabb szabályzásokat szeretnének.
