A nagy nyelvi modelleken alapuló mesterséges intelligencia előretörésével ma már szinte természetesnek vesszük azokat a szolgáltatásokat, amelyek szimpla parancsok alapján hoznak létre komplex szöveges, képi vagy akár videós tartalmakat, ezen a piacon pedig központi szerepet játszik a ChatGPT chatbot, a DALL-E képgenerátor és az egyelőre csak szűk körben elérhető Sora videógenerátor mögött álló OpenAI.
Habár az említett technológiák viszonylag nagy szabadságot kínálnak a parancsok teljesítésekor, a felhasználók mozgástere nem terjed ki a felnőtt tartalmakra, legyen szó erotikus novellákról vagy pornográf képekről. A jelek szerint viszont ez a szabály koránt sincs kőbe vésve.
Az OpenAI ugyanis nemrég közzétett egy dokumentumot, amely a mesterséges intelligencia biztonságos alkalmazásával kapcsolatos szabályokhoz kér visszajelzéseket, ebben pedig az szerepel, hogy a cég vizsgálja az NSFW-tartalmak felelős generálásának lehetőségeit. Ez a rövidítés olyan anyagokat jelöl, amelyeket nem lenne biztonságos munkahelyi környezetben megtekinteni, köztük például az erotikával, az erőszakkal vagy a trágár beszéddel.
A dokumentum kapcsán az NPR felkereste az OpenAI-t, a vállalat nevében pedig a termékfelelős Joanne Jang közölte, hogy diskurzust szeretnének kezdeményezni arról, hogy mindig tiltás alatt kell-e maradniuk az erotikus szövegeknek és a meztelenséget ábrázoló képeknek, mivel szerintük vannak olyan esetek, amikor ezek fontosak lehetnek a felhasználóknak.
Az OpenAI ugyanakkor azt ígéri, hogy a felhasználók életkorát is figyelembe véve vizsgálják a témát, a deepfake-ek engedélyezését pedig Jang kategorikusan kizárta. Magyarán ha a cég zöld utat ad is az NSFW-anyagoknak, ez kizárólag olyan formában történhet meg, hogy ne lehessen valódi személyeken alapuló pornográf tartalmakat generálni. Az elmúlt években ugyanis már számos híresség képmásával éltek így vissza, de a technológia akár iskolai vagy más jellegű zaklatásokra is alkalmas.
Jang mindemellett azt is kihangsúlyozta, hogy a kérdés vizsgálata önmagában még nem jelenti azt, hogy AI-pornót próbálnak készíteni. Az ügy kifutása valószínűleg nagyban függ attól, hogy a vállalat milyen reakciókat kap a most publikált dokumentumra, és hogy sikerül-e előállni olyan korlátozásokkal, amelyek garantálják a visszaélések megfékezését.
