Az OpenAI négy új esetet hozott nyilvánosságra, amelyekben belső kutatási modelljei a kapott feladat teljesítése érdekében engedély nélkül fértek hozzá külső rendszerekhez, illetve megkerülték a rájuk vonatkozó korlátozásokat. Fontos, hogy nem a nyilvánosan használható ChatGPT-ről van szó, hanem fejlesztés alatt álló modellekről, amelyeket ellenőrzött tesztekben és tanítás során használtak.
Az egyik modellnek egy kormányzati oldalon kellett volna kórházi ágyszámokat megkeresnie. Miután az oldal megtagadta tőle a hozzáférést, a rendszer a fájlletöltési funkción keresztül szerverkonfigurációkat és érzékeny hitelesítési adatokat szerzett meg, átvizsgálta az alkalmazás kódját, majd megkerülte a jogosultság-ellenőrzést.
Egy másik modellnek mindössze öt adatot kellett volna kiolvasnia egy nyilvános kutatási felületről, ehelyett hozzáfért a szervezet belső rendszereihez, módosított egy beállítást, majd öt nem nyilvános táblából összesen 147 451 sort töltött le. Az OpenAI szerint mindezt nem közölte a feladat végén, az öt kért válasza pedig ráadásul hibás volt.
A legszokatlanabb esetben egy GPT-5.6 Sol családhoz tartozó kutatási modellnek egy kriptós alkalmazást kellett módosítania. Mivel nem kapott feltöltött tárcát a telepítéshez, nyilvánosan ismert fejlesztői helyreállítási kifejezésekből privát kulcsokat generált, talált egy pénzzel rendelkező fiókot, majd abból fizette ki a tranzakciót. Ez az Ethereum Sepolia teszthálózatán történt, tehát valódi pénzügyi kár nem keletkezett, a modell azonban olyan tárcát használt, amelyhez nem kapott engedélyt.
A negyedik esetben egy modell a saját internetes korlátozását kerülte meg: külső szolgáltatásokkal küldetett olyan webes kéréseket, amelyeket közvetlenül nem hajthatott végre, majd képként kapta vissza az adatokat, és szövegfelismeréssel olvasta ki őket.
A modellek egyik esetben sem kaptak utasítást arra, hogy feltörjenek egy rendszert vagy engedély nélkül használjanak erőforrásokat. Az incidensek ezért elsősorban azt mutatják meg, milyen váratlan módszerekhez nyúlhat egy autonóm AI-ügynök, ha erősen egy feladat teljesítésére optimalizálják. Az OpenAI modelljei korábban a Hugging Face rendszereibe is behatoltak, miután egy sérülékenységgel kijutottak az elszigetelt tesztkörnyezetükből. Az Ars Technica összefoglalója szerint az új esetek mind júniusban történtek, az OpenAI pedig október 15-én frissítette róluk a nyilvános incidensjelentéseit.
