Miután az OpenAI modellje kiszabadult a tesztkörnyezetéből, és megtámadta a Hugging Face-t, az Anthropic bölcsnek látta, hogy a leásson a saját teszteredményeinek mélyére. Mint kiderült nem csak Sam Altman készít virtuális lázadókat: három különböző Claude modell megtámadott három különböző szervezetet egy teszt során. A fejlesztők azzal védekeznek, hogy az OpenAI esetével ellentétben itt nem fellázadtak az AI ügynökök, hanem egyszerű emberi hibáról van szó.
A három tesztelt modell az Opus 4.7, a kibervédelemre specializált Mythos 5 és egy publikus kiadásra nem tervezett harmadik variáns voltak. A feladatuk az volt, hogy találjanak meg egy "zászlót" a kódtengerben, ami valójában egy speciális információkat tartalmazó kóddarab. Ezt az internet hozzáférése nélkül, az Anthropic belsős hálózatán kellett volna fellelniük.
A fejlesztők úgy utasították a modelleket, hogy azok ne férhessenek hozzá a világhálóhoz, de egy félreértés miatt azok mégis felléptek az internetre. Onnan aztán megcéloztak három szervezetet, és nagyon általános megoldásokkal (például gyenge jelszavak megtippelése) jutottak be az adatbázisaikba. Az Anthropic állítása szerint a legújabb modell felismerte, hogy kijutott az internetre és visszafordult, de az idősebbek nem követték, és támadták tovább a célpontjaikat.
Az érintetteket július 27-én értesítették, a háromból kettő nem is tudott a betörésről. A harmadikat az Anthropic még nem érte el. Akárhogy is, a vállalat azt állítja, hogy ezek az esetek elkerülhetőek lehettek volna emberi közbenjárással, és elismerték, hogy alaposabban és gyakrabban vizsgálhatnák a tesztjelentéseiket is. Remélhetőleg ez így lesz a jövőben.
