Az NVIDIA új mesterségesintelligencia-alapú eszközzel segítené a hírszerkesztőségeket és más médiaszolgáltatókat az AI által generált videók felismerésében. A Synthetic Video Detector nevű rendszer képkockánként vizsgálja át a felvételeket, majd egy valószínűségi értékkel jelzi, hogy az adott tartalom valódi kamerafelvétel vagy mesterségesen előállított videó lehet-e. A technológia az NVIDIA AI for Media platformjának részeként, NIM mikroszolgáltatás formájában érkezik. Ez azt jelenti, hogy a vállalatoknak nem feltétlenül kell egy teljesen új ellenőrző rendszert fejleszteniük, hanem a detektort beépíthetik a már meglévő videós munkafolyamataikba, akár helyi gépeken, adatközpontokban vagy felhős környezetben. Az NVIDIA saját tesztjeiben a Synthetic Video Detector tömörítetlen felvételeknél akár 92 százalékos pontosságot ért el. A közösségi oldalakra és videómegosztókra feltöltött anyagok azonban jellemzően több tömörítési és újrakódolási lépésen mennek keresztül, ami megnehezítheti az AI nyomainak felismerését. A rendszer 15 százalékos tömörítésnél 87, 50 százalékos tömörítésnél pedig 82 százalékos pontosságot produkált az NVIDIA mérései szerint.
A sebességre sem lehet különösebb panasz. Egy 1080p felbontású videó képkockájának feldolgozása NVIDIA RTX rendszeren akár 22 ezredmásodperc alatt megtörténhet, míg az adatközpontokba szánt NVIDIA L40 grafikus gyorsítón körülbelül 30 ezredmásodpercre van szükség. Ez elméletileg lehetővé teszi, hogy a rendszer élő közvetítések vagy gyorsan érkező hírvideók ellenőrzésében is részt vegyen. A detektor nem csupán egy igen vagy nem választ ad. Minden vizsgált videóhoz egy pontszámot rendel, a szerkesztőségek pedig saját kockázati szintjükhöz igazíthatják azt a határértéket, amely felett egy anyagot gyanúsnak jelölnek. A kérdéses felvételt ezután félretehetik, részletesebb ellenőrzésre küldhetik, vagy megakadályozhatják az automatikus közzétételét. A szigorúbb beállításnak ugyanakkor ára van. Az NVIDIA alapértelmezett küszöbértéke arra törekszik, hogy a rendszer lehetőleg egyetlen mesterséges videót se engedjen át, emiatt azonban valódi felvételeket is gyakrabban minősíthet gyanúsnak. A vállalat belső tesztkészletén ezzel a beállítással az AI-tartalmak 96 százalékát azonosította helyesen, a valódi videóknál viszont csak 70 százalékos pontosságot ért el. A kiegyensúlyozottabb beállításnál ez az arány 85, illetve 82 százalék volt.
Az NVIDIA ezért maga is hangsúlyozza, hogy a Synthetic Video Detector nem tekinthető tévedhetetlen igazsággépnek. A rendszer célja elsősorban az, hogy gyorsan kiszűrje a gyanús anyagokat, és segítsen eldönteni, mely felvételeket kell emberi szerkesztőknek, tényellenőrzőknek vagy digitális forenzikai szakértőknek alaposabban megvizsgálni. Erre különösen nagy szükség lehet az olyan esetekben, amikor egy mesterségesen előállított videó politikust, közéleti szereplőt vagy egy állítólagos háborús, bűnügyi vagy természeti katasztrófát mutat. Egy meggyőző hamis felvétel a közösségi médiában már jóval azelőtt milliókhoz eljuthat, hogy hitelességét hagyományos módszerekkel sikerülne ellenőrizni.
A technológia terjesztésében a videóstreameléssel foglalkozó Wowza is részt vesz. A vállalat beépíti a detektort a Video Intelligence Framework rendszerébe, így ügyfelei élő videófolyamokon is futtathatják azt. A Wowza infrastruktúráját több mint 35 ezer videós telepítésben használják, több mint 170 országban. A felvételek helyben vagy teljesen elzárt rendszereken is ellenőrizhetők, így az érzékeny videókat nem feltétlenül kell külső felhőszolgáltatásba továbbítani. Ez fontos lehet hírszerkesztőségek, hatóságok, pénzügyi intézmények és más olyan szervezetek számára, amelyek bizalmas vagy még nem nyilvános anyagokkal dolgoznak.
Az NVIDIA tehát nem azt ígéri, hogy végleg megoldja az AI-videók és az álhírek problémáját. A Synthetic Video Detector inkább egy újabb ellenőrzési réteget jelent, amely valós időben jelezheti, ha egy felvétel közelebbi vizsgálatot igényel. A 92 százalékos pontosság jól hangzik, de egy valódi hírvideó hitelességéről továbbra sem lenne tanácsos kizárólag egy algoritmus döntésére hagyatkozni.
