Az Apple több olyan mesterséges intelligenciára épülő appot is kitiltott az App Store-ból, amelyek valódi emberekről készült fényképek alapján képesek beleegyezés nélkül hamis meztelen képeket előállítani. A San Francisco városi főügyésze az Apple mellett a Google-t is a nagyon problémás programok törlésére szólította fel.
A Wired értesülései szerint a vizsgálat nyolc App Store-ban és öt Google Playen elérhető alkalmazást azonosított, a főügyészi hivatal szerint a platformok nemcsak teret biztosítottak ezeknek a szolgáltatásoknak, hanem az alkalmazáson belüli vásárlások után levont jutalékokon keresztül pénzt is kerestek rajtuk.
A felszólítás ezért a programok eltávolítása mellett az érintett fejlesztőkkel fenntartott üzleti kapcsolatok megszüntetését is követelte.
Az Apple közölte, hogy három megnevezett alkalmazást már törölt, a fejlesztőik fiókját pedig megszünteti. További négy fejlesztőt figyelmeztetett a szabálytalanságok kijavítására, ellenkező esetben az ő programjaik is repülnek az áruházból.
"Az App Store-t biztonságos és megbízható helynek terveztük" - mondta az Apple hozzátéve, hogy a szabályzata mindig is tiltotta a pornográf tartalmak és a digitális "levetkőztetés" előállítására szolgáló alkalmazásokat.
Éppen ez teszi kellemetlenné az ügyet az Apple számára, mert ha a szabályok egyértelműen tiltják ezeket a szolgáltatásokat, joggal merül fel a kérdés, hogyan jutottak át a szigorúnak hirdetett ellenőrzési folyamaton. Nem is új problémáról van szó, mert korábban is beszámoltunk róla, hogy az Apple és a Google alkalmazásboltjai nemcsak befogadták, hanem esetenként reklámozták is a vetkőztető programokat.
A moderációt nehezíti, hogy az alkalmazások gyakran ártalmatlan képszerkesztőként vagy arccserélő programként jelennek meg és a problémás funkciók csak telepítés után, külön utasításokkal vagy fizetős opcióként jelennek meg, így az áruházak hagyományos ellenőrzése nem feltétlenül fedezi fel őket.
A Google állítása szerint már több száz hasonló androidos alkalmazást függesztett fel, korlátozta a "nudify" kifejezésre adott keresési találatokat, és a San Franciscó-i vizsgálatban megnevezett öt programot is eltávolította. A probléma azonban ettől még nem oldódott meg, mert a techcégek hónapok óta képtelenek hatékonyan kiszűrni a vetkőztetős appokat, miközben az egyre olcsóbb generatív modellek másodpercek alatt készíthetnek zaklatásra, zsarolásra vagy lejáratásra használható hamis képeket.
