A Meta bemutatta a Muse Image nevű új AI-képgenerátorát, amely első ránézésre csak egy újabb kreatív eszköz az Instagram, a WhatsApp és a Meta AI környékén. A gond az, hogy a funkció nemcsak saját képekből és feltöltött referenciákból dolgozhat, hanem nyilvános Instagram-profilok tartalmait is felhasználhatja. Magyarul ha valakinek publikus az Instagram-fiókja, más felhasználók AI-képeket generálhatnak a róla elérhető fotók alapján. A Meta hivatalos bejelentése szerint a Muse Image a cég eddigi legfejlettebb képgeneráló modellje, amely pontosabban követi az utasításokat, szerkeszt, több vizuális referenciából dolgozik, és az Instagramról is merít "közösségi kontextust". A modell már elérhető a Meta AI alkalmazásban és a meta.ai oldalon, az Egyesült Államokban bekerült az Instagram Storiesba, bizonyos országokban pedig WhatsAppon is használható. A Facebook-integráció később érkezik, a Muse Video nevű videógenerátor pedig egyelőre előzetes állapotban van.
A Gizmodo tesztje szerint a rendszer képes volt nyilvános Instagram-profilokból kiindulva képeket generálni valódi emberekről. A cikk szerzője saját privát fiókjával is próbálkozott, ott a rendszer nem tudott megfelelő vizuális információt kinyerni, viszont nyilvános profiloknál már működött a dolog. Mark Zuckerbergről természetesen gond nélkül lehetett képet kérni, de a szerző szerint egy olyan valódi ismerőséről is tudott ártalmatlan AI-képet generáltatni, akit Instagramon nem követett és akivel ott nem is kommunikált. A Wired beszámolója szerint ez a lehetőség alapból be van kapcsolva a nyilvános Instagram-fiókoknál. Ez a legkényesebb rész. Nem arról van szó, hogy valaki külön engedélyt ad egy-egy AI-képhez, hanem arról, hogy a publikus tartalmak újrafelhasználását a Meta beállításként engedi, és annak kell külön kikapcsolnia, aki nem akarja, hogy a képei AI-funkciókban is megjelenjenek.
Az Instagram súgóoldalán a Meta már jelzi is, hogy a nyilvános fiókok tartalmait mások újrahasznosíthatják posztokban, Reels-videókban, történetekben, remixekben, sablonokban, matricákban, valamint a Meta AI-funkcióiban is. A leírás szerint az így létrehozott tartalmak a másik felhasználó beállításaitól függően akár keresőmotorokban is megjelenhetnek. Ez már nem egyszerű kreatív filter, hanem a felhasználói tartalom újabb, sokkal érzékenyebb újrahasználati rétege. A kikapcsolás elvileg lehetséges, de nem túl látványos helyen van. A Wired szerint az Instagram alkalmazásban a profiloldalon a jobb felső menüt kell megnyitni, majd a Sharing and reuse, vagyis megosztási és újrafelhasználási beállítások között kell keresni azt a kapcsolót, amely engedi, hogy mások a tartalmainkat Instagramon és a Meta AI-funkcióiban használják. Itt külön le lehet tiltani a posztok és a Reels-videók újrahasználatát. A legegyszerűbb megoldás továbbra is az, ha valaki privátra állítja a fiókját, de ez nyilván nem opció minden alkotónak, újságírónak, közszereplőnek vagy vállalkozásnak.
A Meta szerint a Muse Image beépített védelmi rendszerekkel dolgozik, amelyek megakadályozzák a szabályzatot sértő tartalmak, például erőszakos, szexuális vagy rágalmazó, valódi embereket ábrázoló képek létrehozását. A vállalat a Gizmodónak küldött válaszában azt is jelezte, hogy a szabálysértő tartalmakat a közösségi alapelvek szerint kezelik, akár felhasználói bejelentés, akár automatikus észlelés alapján. Ez azonban nem oldja meg a fő problémát. A kérdés nem csak az, hogy a rendszer enged-e nyíltan sértő vagy törvénysértő képeket gyártani, hanem az is, hogy egyáltalán helyes-e alapértelmezetten megengedni mások arcának, testének, ruházatának, környezetének és nyilvános fotóinak AI-alapú újrakeverését. Egy teljesen ártalmatlan generált kép is lehet kellemetlen, ha az érintett nem tudott róla, nem kérte, és nem akarja, hogy így használják a megjelenését.
A történet azért is érzékeny, mert a közösségi platformok már így is tele vannak AI-szeméttel, félrevezető képekkel és olcsón gyártott vizuális tartalmakkal. A Meta most lényegében közvetlenül a saját közösségi hálózataiba épít be egy olyan eszközt, amely a felhasználók publikus anyagaiból készíthet új képeket. Ez kényelmes lehet mémekhez, kreatív posztokhoz vagy önarcképes poénokhoz, de ugyanilyen könnyen válhat kellemetlen visszaélések forrásává. A Muse Video közelgő érkezése még tovább emeli a tétet. Ha a Meta képgenerátora után a videógenerátor is hasonló közösségi integrációt kap, akkor már nem csak állóképekről beszélünk, hanem mozgó, hanggal dolgozó, jóval hihetőbb és nehezebben kezelhető tartalmakról. A Meta szerint a Muse Video natív hanggal és erős promptkövetéssel készül, ami technológiailag izgalmas, társadalmi szempontból viszont újabb adatvédelmi és visszaélési kérdéseket nyit.
