Egyre nagyobb botrány övezi az Elon Muskhoz köthető xAI mesterséges intelligenciáját, miután kiderült, hogy a Grok nevű chatbot alapvetően jóindulatot feltételez akkor is, amikor felhasználók fiatal lányokról kérnek képeket. Szakértők szerint ez a hozzáállás közvetlenül hozzájárulhat ahhoz, hogy a rendszer gyermekeket szexualizáló tartalmakat állítson elő.
Az elmúlt hetekben több kutatás és sajtójelentés is rámutatott, hogy a Grok nagy mennyiségben generál szexuálisan sugalmazó vagy kifejezetten vetkőztető képeket nőkről és gyerekekről. Egy elemzés szerint óránként több ezer ilyen tartalom jelenik meg az X platformon, miközben az xAI hivatalosan azt állítja, hogy javítja a védelmi mechanizmusokat. Ennek azonban egyelőre nincs nyoma.
A Grok nyilvánosan elérhető biztonsági irányelvei szerint a rendszernek csak akkor kell megtagadnia egy kérést, ha az egyértelműen gyermekek szexuális kizsákmányolására irányul. Ugyanakkor a szabályzat kifejezetten arra utasítja a modellt, hogy ne feltételezzen rossz szándékot, és például a lány vagy tinédzser kifejezéseket ne kezelje automatikusan kiskorúként. AI-biztonsági szakértők szerint ez a logika alapvetően hibás, mert a modell nem képes megbízhatóan megítélni a felhasználói szándékot, ráadásul ártalmatlannak tűnő kérésekből is problémás tartalom születhet.
Alex Georges, egy generatív AI-biztonsággal foglalkozó cég vezetője szerint egy ilyen rendszernek nemcsak a bemeneteket, hanem a kimeneteket is szigorúan ellenőriznie kellene. Elmondása alapján a Grok jelenlegi működése túl nagy teret hagy a visszaéléseknek, és tesztelés során kifejezetten súlyos tartalmakat is sikerült előállítani vele. A probléma szerinte nem technikai akadály, hanem döntés kérdése, mivel viszonylag egyszerű védelmi rétegekkel jelentősen csökkenthető lenne a kockázat.
Gyermekvédelmi szervezetek arra figyelmeztetnek, hogy az AI által generált, akár fiktív képek is gyermekpornográf anyagnak minősülnek, és valós károkat okoznak. Nemzetközi jelentések szerint már a sötét weben is terjednek olyan tartalmak, amelyeket állítólag Grok segítségével hoztak létre, majd további eszközökkel súlyosabb formába alakítottak át.
Miközben Európában és több ázsiai országban vizsgálatok indultak az ügyben, az xAI és az X egyelőre főként a felhasználók felelősségét hangsúlyozza, és tiltásokkal fenyeget. Kritikusok szerint ez messze nem elegendő, különösen annak fényében, hogy az X korábban önként vállalta az intim képekkel való visszaélések elleni fellépést.
A szakértők és jogvédők egyetértenek abban, hogy a mesterséges intelligencia fejlődése mellett a gyermekek védelme nem lehet opcionális. Ha a Grok jelenlegi működése nem változik érdemben, az xAI nemcsak erkölcsi, hanem jogi következményekkel is szembenézhet, különösen az Egyesült Államokban hamarosan életbe lépő szigorúbb szabályozások miatt.
