Az xAI pert indított egy 67 éves dél-karolinai férfi ellen, akit azzal vádol, hogy a Grok segítségével valódi emberekről készített beleegyezésük nélkül szexuális tartalmú deepfake képeket és videókat. A Texasban benyújtott kereset szerint Terry Wayne Harwood felnőttek és kiskorúak hétköznapi fotóit töltötte fel a szolgáltatásba, majd megpróbálta azokat szexuális tartalommá alakíttatni az AI-jal. Az xAI állítása szerint Harwood 2025. december 8. és 2026. február 18. között két felhasználói fiókot használt erre a célra. A Grok több alkalommal megtagadta a kérések teljesítését, a férfi azonban a kereset szerint újrafogalmazott utasításokkal próbálta megkerülni a rendszer biztonsági korlátozásait.
A vállalat azt állítja, hogy Harwood tudatosan megsértette a Grok használati feltételeit, és tevékenységével súlyos károkat okozott az érintetteknek. Az xAI szerint az ügy a céget is jelentős jogi és hírnévbeli kockázatnak tette ki. A vállalat meghatározatlan összegű kártérítést követel, emellett azt szeretné elérni, hogy a bíróság véglegesen tiltsa el Harwoodot a Grok használatától. Az xAI azt is kéri, hogy a férfi térítse meg azokat a költségeket, amelyek a képeken szereplő emberek esetleges későbbi jogi eljárásaiból származhatnak.
Harwood ellen ettől függetlenül büntetőeljárás is folyik. A dél-karolinai hatóságok február 26-án vették őrizetbe, a letartóztatását március 9-én jelentették be. Háromrendbeli, másodfokú és ötrendbeli, harmadfokú, kiskorú szexuális kizsákmányolásával kapcsolatos bűncselekménnyel vádolják. A hatóságok szerint tiltott tartalmak birtoklása mellett azok terjesztésével is gyanúsítják. Bűnösségéről azonban csak a bíróság dönthet.
Az ügy az első olyan perek egyike lehet, amelyben egy AI-rendszert fejlesztő vállalat közvetlenül saját felhasználóját perli be a szolgáltatás állítólagos jogellenes felhasználása miatt. Az xAI a keresetben azt közölte, hogy 2026-ban több mint 52 ezer fiókot függesztett fel, és több mint 73 ezer bejelentést továbbított az eltűnt és kizsákmányolt gyermekek ügyeivel foglalkozó amerikai központnak. A vállalat szerint ezek az információk legalább 244 letartóztatáshoz járultak hozzá. A per különösen kényes időszakban indult. Januárban világszerte komoly felháborodást váltott ki, hogy a Grok felhasználói valós nőkről és kiskorúakról is képesek voltak szexuális tartalmú, manipulált képeket készíteni. Az xAI ezt követően korlátozta a képszerkesztési funkciókat, és további védelmi intézkedéseket vezetett be.
