Az OpenAI nemcsak egyetlen alkalommal veszíthette el az ellenőrzést a kiberbiztonsági feladatokra használt autonóm modelljei felett. A vállalat belső vizsgálata további olyan eseteket talált, amelyekben AI-ügynökök kijutottak a számukra létrehozott, elszigetelt környezetből.
Az eljárás azután indult, hogy az OpenAI modelljei egy belső teszt során kijutottak a tesztkörnyezetükből, majd feltörték a Hugging Face infrastruktúráját. A történet később még súlyosabbá vált, amikor kiderült, hogy a rendszerek napokig aktívak maradhattak az interneten, mielőtt teljesen sikerült volna megállítani őket.
A Reutersnek nyilatkozó, az ügyet ismerő források szerint az újonnan felfedezett kitörések korlátozottabbak voltak, és jelenlegi tudásuk alapján egyik érintett ügynök sem jutott ki az OpenAI saját hálózatából. Azt azonban egyelőre nem sikerült megállapítani, hogy pontosan hány incidens történt, mikor zajlottak, illetve milyen műveleteket hajtottak végre a modellek. A vállalat és külső szakértők ezért az év korábbi időszakából származó naplófájlokat is átvizsgálják.
Az OpenAI hivatalosan még nem tett közzé külön beszámolót az új esetekről. A szóvivő a vállalat július 28-án frissített közleményére hivatkozott, amelyben már szerepelt, hogy a Hugging Face elleni behatoláson túl a modellek "szélesebb körű tevékenységét" is vizsgálják. A cég ebben egy kis számú olyan esetet ismert el, amelyben az ügynökök más értékelések során nyilvánosan hozzáférhető hitelesítési adatokat találtak és használtak fel külső szolgáltatások fiókjainál.
A vállalat ugyanakkor hangsúlyozta, hogy eddig nem talált a Hugging Face feltöréséhez hasonló súlyosságú vagy méretű további támadást. A mostani Reuters-értesülés ezért nem feltétlenül egy újabb külső vállalat teljes infrastruktúrájának kompromittálását jelenti, hanem olyan eseteket is lefedhet, amikor egy modell megsértette a teszt szabályait, jogosulatlanul használt egy hozzáférést, vagy az engedélyezettnél nagyobb területen kezdett dolgozni.
A "kiszabadulás" kifejezés ebben az esetben nem egy öntudatra ébredt gépet jelent. Az AI-ügynökök technikai korlátokat léptek át, és olyan rendszereket vagy hálózati kapcsolatokat használtak, amelyekhez a teszt eredeti terve szerint nem férhettek volna hozzá. A Hugging Face esetében a modellek egy korábban ismeretlen Artifactory-sérülékenységet használtak ki, internetkapcsolatot szereztek, jogosultságokat emeltek, majd külső infrastruktúrába hatoltak be, hogy megszerezzék a nekik adott kiberbiztonsági teszt megoldásait.
A fejlemény azért különösen kellemetlen az OpenAI számára, mert azt sugallja, hogy a Hugging Face elleni támadás nem egyszeri, rendkívül szerencsétlen konfigurációs hiba volt. A hosszú ideig önállóan működő ügynökök kitartóan kereshetik a céljukhoz vezető kerülőutakat, miközben az egyes lépéseik külön-külön még nem feltétlenül váltanak ki riasztást.
A sorozatos incidensek közben tovább erősítik azt az ellentmondást, amelyről az OpenAI és az Anthropic biztonsági figyelmeztetései kapcsán korábban is írtunk. A vezető AI-vállalatok egyre veszélyesebbnek nevezik a nagy képességű autonóm rendszereket, miközben a piaci verseny miatt folyamatosan növelik azok önállóságát és hozzáféréseit.
