Nem éppen szigorú erkölcsi kódexükről ismerjük a legtöbb IT-céget, és sajnos ez különösen akkor igaz, amikor a vállalatok pénzt tudnak húzni valamiből - például olyan applikációkból, amik egyértelműen károsak és tisztességtelenek, viszont rengetegen hajlandóak fizetni értük - ez pedig komoly bevétel az Apple-nek és a Google-nek is.
A nudify appokról van szó, vagyis a vetkőztetős applikációkról, amik képesek bármilyen, egy képen szereplő emberről lekapni a ruhát és meztelenül megmutatni őket. Persze a végeredmény csak AI-kitaláció, de abból adott esetben egészen jó minőségű, ráadásul csak digitális. Ettől azonban a helyzet még súlyos, hiszen beleegyezés nélküli "vetkőztetésről" van szó, ami bullyingra, zaklatásra, lejáratásra is felhasználható.
Vagyis minden jel arra mutat - legalábbis egyelőre, hogy hiába az ígéretek a mesterséges intelligencia biztonságos használatáról, a Google és az Apple nem veszi igazán komolyan a toxikus és sértő deepfake-megoldások tiltását. A Tech Transparency Project (TTP) friss jelentése rávilágított arra a kínos valóságra, hogy az "AI nudify" és "face-swap" alkalmazások tucatjai nemhogy megbújtak, de letöltési toplistára is kerültek a hivatalos áruházakban. A kutatók összesen 55 ilyen appot találtak a Play Áruházban és 47-et az App Store-ban - a közös metszet pedig 38 olyan alkalmazás, ami mindkét platformon vígan hirdette, hogy bárkit képesek "levetkőztetni".
Az appok működése egyszerűbb nem is lehetne: AI-jal az appok leszedik a ruhát a képen szereplő hölgyről, és megrajzolják azt, ami szerintük alatta van - a kép szerinti testhelyzetben. Egy másik működési mód, hogy a kijelölt ember arcát alkalmazzák egy szexmunkás arca helyére.
Mindkét megoldás erősen aggályos, hiszen egyik esetben sincsen olyan kör, hogy te a beleegyezését kérd az adott személynek arra, hogy az arcával, testével ilyet tegyél. Ennél már csak az a gyomorforgatóbb, hogy mindkét tech óriás profitál is ebből, hiszen az appok bevételéből ők is részesülnek. A valóság pedig azt mutatja, hogy ezért a funkcióért nagyon, de nagyon sokan hajlandóak fizetni is.
Egy konkrét példa, a DreamFace app például egymillió dolláros bevételt termelt, mielőtt az Apple nagy kegyesen eltávolította volna (a Google Play Store-ban mi még megtaláltuk az appot most is).
És ez még csak a "soft" része az aggasztó helyzetnek. Az olyan appok, mint például a Collart nem csupán meztelenkedésre veszik rá beleegyezésük nélkül a fotóalanyokat, de konkrét pornográf szituációkat is képesek generálni - bármiféle korlátozás nélkül.
Azért némi hatása volt a TTP jelentésének: a Google 31, az Apple 25 appot törölt, viszont ez még édeskevés. Ez az eset is tökéletesen mutatja, hogy éppen azok a cégek, akik képesek érdemben szabályozni a káros, kártékony tartalmat az interneten, csak késve, külső felszólításra hajlandóak cselekedni. Minden jel arra mutat, hogy a deepfake-nek ez a következő lépcsőfoka, és hogy még nagyon, de nagyon sok gondja lesz ebből az emberiségnek. És hogy mennyire a pénz beszél? A Pornhub egyik sztárja, aki a népszerűségi lista élén áll, név szerint Sweetie Fox is egy ilyen appot hirdetett nemrég.