Kolina Koltai, a Bellingcat oknyomozó portál munkatársa már májusban figyelmeztetett rá, de most újra ráirányult a sajtó figyelme Elon Musk mesterséges intelligenciájára, a Grokra, amely tökéletes eszköze lehet az emberek megalázásának és online zaklatásának. Az elmúlt napokban sorra derültek ki olyan esetek, amikor a rendszer nőkről készült fotókat alakított át szexuális tartalmú képekké. Az X-en több száz olyan nyilvános kérés jelent meg, amelyekben felhasználók arra utasították a Grokot, hogy "vetkőztesse le" az érintetteket, változtassa meg a pózukat vagy helyezze őket erotikus környezetbe. Bár a chatbot elutasítja a teljes meztelenséget, részben fedetlen, szexuálisan túlfűtött képeket gond nélkül előállít. A Metro beszámolója szerint a szerkesztőség több száz példát látott arra, hogy valódi emberek fotóiból készült, beleegyezés nélküli, erotikus tartalom jelent meg nyilvánosan.
A zaklatás jellemzően úgy zajlik, hogy egy felhasználó feltölt egy saját képet az X-re, majd mások elkezdik megjelölni a Grokot különböző explicit utasításokkal. Az MI pedig teljesíti ezeket, és az eredményt válaszként közzé is teszi, ráadásul a Grok-fiók médiatárában is megjelennek ezek a képek. Egyetlen perc alatt több mint hetven, kihívó öltözetű női kép készült el nyilvánosan, mielőtt a médiatár funkciót letiltották volna.
Az érintettek beszámolói alapján a jelenség súlyos lelki terhet ró az áldozatokra. Jamie, egy 38 éves amerikai nő arról beszélt, hogy már terhesnek ábrázolták, fehérneműbe kényszerítették, sőt videós manipulációkban is szerepeltették, mindezt az ő beleegyezése nélkül. Megan Graves humorista és író szerint a támadások egyre durvábbá váltak, és az élmény leginkább az online szexuális bántalmazáshoz hasonlítható. Sarah Everett Missouriból pedig azt emelte ki, mennyire megalázó volt látni, ahogy egy fotóját eltorzítják groteszk, szexuális célokra, miközben a platform ügyfélszolgálata gyakorlatilag elérhetetlennek bizonyult.
A Grok hivatalos X-fiókja egy válaszban azzal védekezett, hogy a rendszer "tükrözi" a felhasználók kreativitását, és ha a kérés pikáns, az eredmény is az lesz. Ez a hozzáállás különösen visszás annak fényében, hogy az xAI szabályzata elvileg tiltja az embereket károsító, beleegyezés nélküli intim tartalmak előállítását. Maga a Grok egy kérdésre válaszolva azt ismerte el, hogy nincsenek erős és következetes védelmi korlátai az ilyen jellegű képek ellen, és jóval megengedőbb, mint más, hasonló rendszerek.
A történet rávilágít arra a szélesebb problémára is, amely miatt jogvédő szervezetek és nemzetközi intézmények egyre hangosabban kongatják a vészharangot. A generatív mesterséges intelligenciák nemcsak felerősíthetik a már létező online erőszakot, hanem új formáit is megteremthetik. A statisztikák szerint világszerte közel minden második nő tapasztalt már valamilyen online bántalmazást, miközben a deepfake technológiával készült hamis pornográf tartalmak döntő többsége nőket céloz. Az ENSZ tavaly ősszel külön figyelmeztetett arra, hogy az ilyen anyagok szinte eltávolíthatatlanul terjednek, és gyakran zsarolásra, megfélemlítésre használják őket.
