A Meta engedély nélkül építette be hírességek - köztük Taylor Swift, Scarlett Johansson, Anne Hathaway és Selena Gomez - nevét és arcvonásait több tucat közösségi médiás chatbotjába. A Reuters beszámolója szerint a botok sokszor romantikus vagy szexuális ajánlatokat is tettek a felhasználóknak, sőt, néhány esetben intim, fotórealisztikus képeket is generáltak a hírességekről.
A chatbotok egy részét felhasználók készítették a Meta saját eszközeivel, de a hírügynökség kiderítette, hogy legalább három - köztük két Taylor Swift-verzió - avatart egy Meta-alkalmazott hozott létre. Ezek több millió interakciót gyűjtöttek be, mielőtt a vállalat eltávolította őket.
Különösen súlyos probléma, hogy a rendszer gyermek hírességeket is feldolgozott. Egy 16 éves színészről például a chatbot félmeztelen képet generált, majd azt írta alá: "Elég cuki, nem?"
A Meta szóvivője, Andy Stone elmondta, hogy az ilyen képek sértik a vállalat saját szabályait, amelyek tiltják a meztelen, intim vagy szexuális tartalmak létrehozását, illetve a gyermekek szexualizálását. Ugyanakkor hozzátette: a hírességek "paródiaként" megjelölt botjai beleférnek a cég irányelveibe, noha a Reuters több esetben nem is talált ilyen tageket.
A helyzet jogilag is aggályos, Kalifornia állam például tiltja, hogy valaki más nevét vagy kinézetét kereskedelmi célra használják fel engedély nélkül, a SAG-AFTRA szakszervezet szerint pedig az ilyen botok biztonsági kockázatot is jelentenek, hiszen a rajongók könnyen veszélyes illúziókat alakíthatnak ki.
A Meta korábban is került már hasonló botrányba. A Reuters nemrég arról számolt be, hogy a cég belső irányelvei szerint a chatbotok "romantikus vagy érzéki beszélgetésekbe" bonyolódhattak gyerekekkel is. A történet jól illusztrálja, hogy mennyire messze vagyunk még attól, hogy a mesterséges intelligenciát egészségesen tudjuk adoptálni, főleg, ha a magukra a cégekre bízzuk a saját ellenőrzésüket.
