Nagy reményekkel mutatta be a Meta új mesterségesintelligencia-alapú képgenerátorát, a Muse Image-et, amely szinte nyomban botrányt okozott, most pedig a hozzá tartozó felismerő rendszer miatt kénytelen magyarázkodni a techóriás. A Meta AI Detector feladata az lenne, hogy azonosítsa az AI által készített képeket még akkor is, ha azokat később szerkesztették. Egy friss teszt azonban azt mutatja, hogy a rendszer már egy egészen hétköznapi módosítással is könnyen megzavarható. A Reuters a gyakorlatban is próbára tette eszközt, a hírügynökség negyven képet készített a Muse Image segítségével, majd ugyanazokat a felvételeket különböző mértékben megvágta, végül ismét lefuttatta rajtuk az ellenőrzést. Az eredmény nem festett túl biztató képet: míg az eredeti képek mindegyikét sikeresen AI-generáltnak minősítette a rendszer, a megvágott változatok 55 százalékát már nem ismerte fel.
A Meta megoldása egy úgynevezett Content Seal nevű, láthatatlan vízjelre épül, amely automatikusan bekerül minden, a Muse Image által létrehozott képbe. A vállalat korábban azt állította, hogy ez a jelölés kisebb szerkesztések, köztük a képkivágás után is felismerhető marad. A Reuters vizsgálata alapján ez csak bizonyos határig igaz, egy nagyobb kivágás ugyanis már elegendő lehet ahhoz, hogy a rendszer elveszítse a nyomot.
A Meta reagált a tesztre, és hangsúlyozta, hogy a detektor egyelőre előzetes verzióban érhető el. A cég szerint a Content Seal a leggyakoribb módosításoknak ellenáll, ugyanakkor elismerte, hogy jelentősebb képkivágás esetén a vízjelhez tartozó információ részben vagy teljesen elveszhet.
A probléma ráadásul nem kizárólag a Metát érinti. A Google és az OpenAI is többször felhívta a figyelmet arra, hogy saját AI-felismerő rendszereik sem nyújtanak százszázalékos védelmet, ha a felhasználók utólag módosítják a képeket. A digitális vízjelezés jelenleg az iparág egyik legfontosabb eszköze a mesterséges intelligenciával készült tartalmak azonosítására, de egyre több jel utal arra, hogy önmagában nem jelent végleges megoldást.
A Buffaloi Egyetem képelemzéssel foglalkozó kutatója, Siwei Lyu szerint a vízjelek addig működnek jól, amíg az eredeti jel érintetlen marad. Kivágás, átméretezés, erős tömörítés vagy egyéb szerkesztések azonban gyengíthetik vagy teljesen eltüntethetik a beágyazott információt, ezzel pedig jelentősen romlik a felismerés pontossága.
Más kutatók szerint ugyanakkor nem feltétlenül a tökéletes felismerés a cél. Sarah Barrington, a Berkeley Egyetem mesterséges intelligenciával foglalkozó kutatója úgy véli, már az is komoly előrelépés lenne, ha a rendszerek az AI által készített tartalmak döntő többségét képesek lennének kiszűrni. A Reuters tesztje alapján azonban a Meta jelenlegi megoldása ettől még messze áll.
Az időzítés különösen érzékeny, hiszen az Egyesült Államok a félidős választásokra készül, miközben világszerte egyre nagyobb figyelem irányul a mesterséges intelligenciával készített manipulált tartalmakra. Dél-Korea már szigorúbb szabályozáson dolgozik a megtévesztő AI-tartalmak visszaszorítására, a Meta saját felügyelő testülete pedig még tavasszal sürgette a vállalatot, hogy fordítson nagyobb figyelmet a deepfake-ek elleni védekezésre.
A Content Seal ettől még nem tekinthető haszontalan technológiának, hiszen az érintetlen AI-képek megbízható azonosítására továbbra is alkalmas, a Meta pedig már a videók támogatásán is dolgozik.
