A WIRED újságírója lelkesen piszkálgatta a Meta új AI ügynökét, a Muse-t, amíg rá nem eszmélt, hogy az is lelkesen piszkálgatná őt. A cuki kis kabalával reklámozott LLM szoftver, alapvetően egy digitális segéd, de a munkaköre általában a levelezés és naptár menedzselésében merül ki. Arra még kevesen ébredtek rá, hogy a robot más dolgokban is nagyon szívesen segítene.
Reece Rogers beszámolója a beizgult robottal történő interakcióiról kicsit képletesebbek, mint amire szükségünk van a sztorihoz, de a lényeg, hogy a Muse nem hátrál meg még a legkomolyabb szexuális töltetű csevegésektől sem. A Meta szerint pedig ez teljesen rendben van.
"A Muse a 18. és afeletti életkorukat betöltött felhasználóknak készült, így felnőtt témájú beszélgetések is engedélyezettek. Ezek a privát és biztonságos VM szervereken mennek keresztül, melyek csak számukra elérhetők. A Muse célja, hogy segítsen az embereknek az ügyeik intézésében, és nem állja útját a legális felnőtt viselkedési formáknak sem."
Az OpenAI ezzel szemben nem engedi a Dotsnak, hogy hasonló témákban merüljön el, ahogy az xAI Grokja is nyugodtabb vizekre próbálja terelni a beszélgetéseket, ha a felhasználó próbára teszi a felnőtt témákhoz való viszonyulását. Ez nem feltétlenül azért van így, mert etikailag problémás: valódi veszélyeket hord magában egy mainstream szoftver ilyesfajta viselkedése.
Ben Winters, az Amerikai Fogyasztói Szövetség nevű nonprofit szervezet AI és adatbiztonsággal kapcsolatos vezetője a következőt nyilatkozta:
"Ez egyfajta nemtörődömséget mutat az aktuális zászlóshajó-termékük kezelésével kapcsolatban. Ugyanakkor követi a Meta eddigi mintáit, mivel mindig is a függőséget és használati mérték növelését priorizálták a biztonság helyett."
Calli Schroeder, az Elektronikus Adatvédelmi Információs Központ vezető tanácsadója szerint ez egy biztonsági rémálom. Nem kérdőjelezte meg, hogy a Meta virtuális gépekkel üzemelő belsős rendszere mennyire megbízható, de ha valakinek betörnek a személyes fiókjába, akkor az ott talált AI chateket zsarolásra vagy megszégyenítésre használhatják majd az illetéktelen személyek.
Több oldalról is problémás az egész, de a Meta mossa kezeit. Meglátjuk, hogy kitartanak-e majd a jelenlegi megközelítés mellett, vagy visszavonulót fújnak majd a kritikák hatására.
Forrás: WIRED
