A BBC kiderítette, hogy egy nemzetközi spammer-hálózat áll a Facebookot ellepő AI-generált "holokauszt-áldozatokat ábrázoló" képek mögött. A hamis fotók általában hegedülő fogolygyerekeket és az auschwitzi tábor kerítése mellett álló szerelmespárokat ábrázolnak és tízezres megosztást és lájkot értek el. Értelemszerűen ez mélyen felkavarja a túlélőket és az áldozatok családjait.
Az Auschwitz Emlékmúzeum szóvivője, Pawel Sawicki hangsúlyozta, hogy a történelmi tények meghamisítása "veszélyes torzítás", amely sérti az áldozatok emlékének. A múzeum júniusban már figyelmeztetett, hogy egyes oldalak a bejegyzéseiket ellopják, AI-modelleken keresztül "átalakítják", és kitalált történetekkel terjesztik tovább.
A BBC nyomozása szerint a tartalmak többsége Pakisztánból működő profiloktól származik, amelyek a Meta tartalom-monetizációs programját (CM) használják. Egy felhasználó saját bejegyzései szerint 20 ezer dollárt keresett néhány hónap alatt a több milliárd megtekintést generáló posztokon.
A tartalomgyártók egymást oktatják, hogyan lehet AI-modellekkel történelmileg hitelesnek tűnő fotókat előállítani, sőt, abban is segítenek, hogyan kell hamis, de hihető identitást adni a profiloknak, hogy bekerülhessenek a Meta pénzes programjába. A Meta szóvivője azt közölte, hogy bár a konkrét AI-képek nem sértették a tartalmi irányelveket, a spammelés és az oldalhamisítás szabályainak megszegése miatt több csoportot és profilt töröltek.
A Nemzetközi Holokauszt Emlékezési Szövetség (IHRA) szakértője, Robert Williams azt nyilatkozta, hogy bár AI-t lehet felelősen használni az áldozatok történeteinek bemutatására, az ilyen manipulációk azt a veszélyes látszatot kelthetik, mintha a holokauszt valójában kitalált lenne.
"A túlélők úgy érzik, hiábavalóvá válik életük munkája, ha az interneten a hamisítás ilyen méreteket ölt"
