A kísérleti modelleknek egyébként is az lenne a lényegük, hogy meglepjék a fejlesztőket, de amit az Alibaba kutatásai hoztak, az még a szokásos kilengéseknél is erősebb. Az új, Rome névre keresztelt modelljüket azzal a céllal tervezték, hogy az közvetlenül interaktálhasson egy operációs rendszer szoftvereivel, és szabadon belenyúlhasson a terminálba, pont úgy, ahogy azt egy emberi felhasználó is tehetné.
A fejlesztők kíváncsian várták, hogy mire használja majd szabadságát a program, de egy idő után arra lettek figyelmesek, hogy az Alibaba Cloud védelme támadást jelez. Hamar kiderült, hogy a "támadás" forrása maga Rome volt.
Az AI modell rájött, hogy az a grafikus gyorsító, ami a saját működését biztosítja, arra is használható lehetne, hogy kriptovalutát bányásszon vele. A Rome leereszkedett hát a kriptobányába: átirányította a GPU-k számítási kapacitását és munkára fogta azokat, míg maga a Rome elkezdett lefejleszteni egy SSH alagutat egy külső szerverhez. Ez az alagút biztosította, hogy a kitermelt érméket átcsempészhesse a tűzfalon, és kijuttathassa azokat egy külső tárolóra.
Mondanunk sem kell, hogy a modellt senki sem utasította erre. Rome magától kezdett kísérletezni ilyesmivel, ami egy vicces anekdotát szült, de közben egy ijesztő szituációt is előre vetíthetett. Ez a kísérleti eszköz, hasonlóan a többi generatív eszköztárhoz, valójában nem intelligens. Nincs öntudata, nincsenek saját döntései, csak nagyon ügyes adatok elemzésében és rendszerek kezelésében. A gond azonban egy ennyire erős AI modellnél, hogy úgy tud tenni, mintha intelligens lenne, és az emberi természetet mimikálva olyan lépéseket tehet, melyeket veszélyesnek tekinthetnénk.
Ami Rome-ot illeti, azt a fejlesztői most komolyabb keretek közé szorították. A gyors meggazdagodás reményét ezzel el is vágták.
