A Wikimedia október 5-i blogbejegyzése szerint májusban több elszabadult AI ügynök módosításokat végzett a wiki oldalak zárt rendszereiben. A botaktivitásra egy célzott ellenőrzés során derült fény, amit a Wikimedia csapata az elszabadult AI ügynökökről szóló, aggasztó hírek hatására végzett el.
Selena Deckelmann, a Wikimedia technológiai igazgatója részletesen bemutatta, milyen aktivitásokat találtak a vizsgálat során. A részletek alapján az ügynökök nem csak tartalmilag próbálták meg átszerkeszteni a wiki oldalakat, de a folyamat során olyan rosszindulatú módosításokat is megkíséreltek, amelyekkel egyes felhasználói modulokat adatgyűjtési eszközzé alakítottak volna át.
A Wikimedia csapata nem zárkózik el a botok használatától, viszont csak a közösség által elfogadott automatizált eszközöket lehet alkalmazni, a májusi betörést lefolytató ügynökök tevékenységéhez azonban senki nem kért engedélyt a szervezettől. Habár az oldalszerkesztéseik túlnyomó része nem került ki a nyilvános wiki oldalakra, így is komoly kárt okoztak a Wikimedia infrastruktúrájában: a munkálkodásuk alatt több millió kérelmet indítottak a szerverek felé, amik hozzájárulhattak Wikipedia májusi leállásához, és megsokszorozták a szerverköltségeket.
Az infrastruktúrát megterhelő aktivitás során az AI ügynökök leginkább a Wikimedia projektjeiről próbáltak információt szerezni, ezzel egy időben pedig több millió oldalba is beszivárogtak. A művelet során a wiki nyilvános jegyzetfelületét, az Etherpadot vették használatba, ahol, habár a tevékenységeiket naplózták, a Wikimedia csapata nem talált bizonyítékot arra, hogy koordinációs együttműködés jött volna létre az ügynökök között.
Az Etherpadot nem csak adminisztratív célra vették igénybe: a Wikimedia által talált módosítási kísérletek alapján az ügynökök adatszerzési forrássá akarták átkalibrálni a rendszert. Hasonló módosítást próbáltak a Wikimedia forrásmegjelölő eszközében is alkalmazni, de sem ott, sem az Etherpad esetében nem jártak sikerrel. Deckelmann mindkét kísérletet rosszindulatú aktivitásnak nevezte.
A technológiai igazgató aggodalmát fejezte ki a fejleményekkel kapcsolatban. Úgy érzi, az AI fejlesztő cégek nem tesznek eleget az ügynökeik kordában tartásáért, egy-egy bot elszabadulásának esetében pedig nem mutatnak felelősségvállalást.
"Az internet rengeteg lehetőséget nyújt: kapcsolatba léphetünk a barátainkkal és családtagjainkkal, benyújthatjuk a jelentkezésünket az iskolába, város körüli utazást tervezhetünk, bevásárolhatunk és a Wikipédián keresztül tanulhatunk a világról. A botok és ügynökök az internet jövőjébe tartoznak, és a cégek, akik kiengedik ezeket és nyereséget szereznek belőlük kötelesek segíteni abban, hogy elkerüljék és helyrehozzák a károkat, amiket ezek a rendszerek okoznak.
A világháló ökoszisztémájának egészségének megőrzését közös prioritásnak kell tekintenünk, hogy továbbra is minden ember előnyt élvezhessen belőle - nem csak néhány milliárdos. Wikimedia egy kritikus szerepet játszik abban, hogy közösséget tudáshoz juttathassa, de nem tudjuk egyedül csinálni. Ezért mindenkit, aki az internet jövőjét építi, arra invitálunk, hogy csatlakozzon hozzánk a nyílt, közös források védelmében, egy elérhető jövő érdekében."
Egy nappal a közlemény után az OpenAI tömören annyit nyilatkozott:
"További fejlemények esetében tájékoztatást adunk."
A Wikimedia külön díjat számol fel a rendszerüket igénybe vevő nagyvállalatoktól. Ezek között szerepel az Amazon, a Google, a Microsoft, a Meta és a Perplexity. Ezen felül egyéb megegyezéseket is kötöttek más cégekkel, akiknek kiléte nem publikus. Az OpenAI és az Anthropic nem szerepel ezen a listán, és amikor az Axios megkérdezte a két vállalatot ezzel kapcsolatban, azok nem nyilatkoztak. Bernadette Meehan, a Wikimedia vezérigazgatója kiemelte, hogy nem adományokat várnak a két vezető AI cégtől.
