Az autonóm AI-ügynökök robbanásszerű terjedése mögött meglepően kevés biztonsági kapaszkodó áll, állítja az MIT Computer Science and Artificial Intelligence Laboratory frissen publikált AI Agent Index jelentése. A kutatók harminc ismert rendszert vizsgáltak, köztük chat-alapú megoldásokat, böngészővezérelt botokat és vállalati ügynököket, és arra jutottak, hogy a fejlesztések tempója messze meghaladja az ellenőrzési mechanizmusok kiépítését.
A 2025-ös évben az "AI Agent" és "Agentic AI" kifejezéseket említő tudományos publikációk száma több mint kétszerese volt az előző négy év összesített adatának. Egy McKinsey-felmérés szerint a vállalatok 62 százaléka már kísérletezik ilyen rendszerekkel. A vizsgált harminc ügynök közel fele úgynevezett frontier szintű autonómiával rendelkezik, vagyis hosszabb feladatsorokat képes emberi beavatkozás nélkül végrehajtani. A böngészőalapú megoldások különösen nagy mozgástérrel működnek, többoldalas folyamatokat hajtanak végre, belépnek felhasználói fiókokba, és adatokat használnak fel döntésekhez.
A biztonsági dokumentáció hiányos. A rendszerek fele rendelkezik nyilvános biztonsági vagy felelősségi keretrendszerrel, minden harmadik ügynöknél azonban semmilyen ilyen irat nem található, öt esetben pedig megfelelőségi szabvány sincs feltüntetve. Kilenc rendszer esetében nincs dokumentáció arra, milyen védelmek akadályozzák meg a káros műveleteket, és a többség nem közöl harmadik fél által végzett teszteredményeket sem.
Az átláthatóság külön problémát jelent a webes forgalomban. Huszonegy vizsgált ügynök nem jelzi egyértelműen, hogy nem emberi felhasználóként működik. Mindössze hét publikál stabil User-Agent azonosítót és IP-tartományt, miközben több rendszer kifejezetten böngészőre emlékeztető azonosítóval és lakossági IP-környezettel generál forgalmat. Egyes nyílt forráskódú megoldások marketingüzenetként hivatkoznak arra, hogy képesek megkerülni a botvédelmi rendszereket.
A jelentés szerint a prompt injection típusú támadások továbbra is valós fenyegetést jelentenek, mivel nincs egységes iparági szabvány az ügynökök biztonsági értékelésére és jelentéstételére. Bár a OpenAI és az Anthropic tavaly közös alapítványt jelentett be az ügynökfejlesztési standardok kidolgozására, a kutatók szerint a transzparencia és a tényleges működési kockázatok feltárása továbbra is elmarad a terjedés ütemétől. Az AI-ügynökök már most tömegesen vannak jelen a weben és a munkahelyi környezetben, miközben a felügyeleti keretek csak részben követték le ezt a növekedést.
