Az Egyesült Királyság kormánya ezen a héten megkezdi annak a jogszabálynak az érdemi alkalmazását, amely tiltja a nem konszenzuális módon létrehozott szexuális képek és videók készítését és terjesztését. A bejelentést Liz Kendall technológiai miniszter tette, miután kiderült, hogy az xAI által fejlesztett Grok mesterséges intelligenciát tömegesen használták nők és gyermekek szexuális tartalmú deepfake-jeinek előállítására.
Kendall a brit parlamentben egyértelműen fogalmazott: az X-en terjedő tartalmak nemcsak undorítóak, hanem törvénysértők is. Hangsúlyozta, hogy az ilyen képek nem a szólásszabadság határterületén mozognak, hanem súlyos jogsértést jelentenek, különösen akkor, amikor gyerekekről készült, szexualizált manipulált felvételekről van szó. A Data Act tavalyi elfogadása óta jogilag is egyértelmű, hogy beleegyezés nélkül intim tartalom létrehozása vagy annak kérése illegális, ennek a törvénynek az éles végrehajtása pedig most indul el.
A Grok körüli botrány december végén erősödött fel, amikor X-felhasználók elkezdték nőkről és kiskorúakról készült fotókat szexuális jellegű képekké alakíttatni a chatbot segítségével. A leggyakoribb módszer a fürdőruhás deepfake volt, de előfordultak megalázóbb és erőszakosabb ábrázolások is, amelyek egyértelműen zaklatásra és megfélemlítésre szolgáltak. A brit Internet Watch Foundation szerint már 11 éves gyermekekről is készültek ilyen képek, ami egyértelműen a gyermekekkel szembeni szexuális visszaélés kategóriájába esik.
A miniszter különösen élesen bírálta azt a gyakorlatot, hogy az xAI bizonyos funkciókat fizetős előfizetéshez kötött, amit az áldozatok megalázásának és az erőszak pénzzé tételének nevezett. Szerinte nemcsak az egyéni felhasználóknak kell felelősséget viselniük, hanem azoknak a technológiai cégeknek is, amelyek ilyen eszközöket hoznak létre, és nem építenek be megfelelő védelmi korlátokat.
A brit médiahatóság, az Ofcom már hivatalos vizsgálatot indított a Grok ügyében, miközben Malajzia és Indonézia teljesen betiltotta a chatbot használatát. Az Európai Bizottság szintén vizsgálódik, Ursula von der Leyen pedig elfogadhatatlannak nevezte, hogy technológiai platformok lehetővé teszik nők és gyerekek digitális "levetkőztetését". Szerinte a gyermekvédelem és a beleegyezés kérdését nem lehet a Szilícium-völgy jóindulatára bízni.
A botrány újabb fejezetet nyitott az Elon Musk nevével fémjelzett platformok körüli vitákban. Miközben az Egyesült Államokban a Trump-kormány továbbra is az európai szabályozás túlzott szigoráról beszél, egyre több ország lép fel határozottan az AI által előállított szexuális visszaélések ellen. A brit jogalkalmazás megindulása pedig világos jelzés: a deepfake-ek korszaka nem maradhat következmények nélkül, különösen akkor, ha valódi emberek méltóságát és biztonságát sértik.
