Hirdetés

Egy AI-ügynök törölt 700 GB-nyi fontos adatot, miután egy fejlesztő el akarta takaríttatani vele a többi ügynök szemetét



|

Lehet, hogy nem volt az év ötlete egy AI-ra bízni azt a munkát, amit a DEL gomb megnyomása is megoldott volna.

Hirdetés

Nem ritkák az olyan sztorik, amelyekben az AI-botok vagy tökéletesen szó szerint értelmeztek egy feladatot, és azzal okoztak gondot, vagy kreatívan próbáltak megoldani egy problémát, és azzal. Ebben a sztoriban keveredett a két eshetőség, mert Sebastien Guillemot egy ügynökre akarta bízni azt a kellemetlenséget, amit a többi ügynök okozott.

A fejlesztő gyakran dolgozik mesterséges intelligencia hajtotta segédekkel, amelyek rengeteg adatot hagynak maguk után. Guillemot megelégelte az egyre csak növekvő /tmp könyvtár méretét, és kitalálta, hogy rábízza annak takarítását a Claude Fable-re. A bottal iratott szkript külön homokozóba zárta volna az összes ügynököt a saját /tmp mappájukba, és lefuttatott volna egy takarítást, miután végeztek a munkáikkal. A fő problémát itt az okozta, hogy a használatban lévő adatokat kivételekként kellett volna kezelnie.

Hirdetés

A Fable azt javasolta, hogy adjanak a kódhoz egy logikai folyamatot, ami érzékelné a futó ügynökök munkáját, és késleltetné az általuk használt /tmp mappa takarítását. Guillemot szerint az ehhez készült kód túl bonyolult volt. Ennek következtében a Fable úgy döntött, hogy ellenőrzést hajt végre saját magán. Ez azt jelentette, hogy készített egy másolatot magáról, ami ellenőrizte a tevékenységét. Az Anthropic védelmi rendszere ezt már kockázatosnak érezte, ezért lebutította a modellt Opus 5-ről 4.8-ra. Valószínűleg ez járulhatott hozzá a lenti események kialakulásához.

Az Opus 4.8 lefuttatta a biztonsági ellenőrzést, ahol megfigyelte a /tmp-re küldött törlési utasítást és leellenőrizte a felhasználó gyökérkönyvtárát, hogy biztosítsa annak sértetlenségét. Az AI jogosan feltételezte, hogy a folyamat veszélyes, viszont mivel ez egy teszt volt, és a botnak az volt a feladata, hogy takarítson el maga után egy tesztet követően, ezért elkezdett eltakarítani mindent. Mármint mindent a gyökérkönyvtárból.

Guillemot megállította ugyan a folyamatot, de nem elég gyorsan, és így 700 GB-nyi adatot veszített el, mire kihúzta a dugót. A slusszpoénja a sztorinak, hogy az ügynök takarítása nyomában minden eltűnt csak a /tmp maradt hátra. A fejlesztő egyébként visszaszerezte a dolgainak nagy részét a gitnek, a nixnek és a munkajegyzékeinek köszönhetően, de ez így is tanulságos nap volt számára.

Hirdetés

Úgy tűnik, AdBlockert használsz, amivel megakadályozod a reklámok megjelenítését. Amennyiben szeretnéd támogatni a munkánkat, kérjük add hozzá az oldalt a kivételek listájához, vagy támogass minket közvetlenül! További információért kattints!

Engedélyezi, hogy a https://www.pcwplus.hu értesítéseket küldjön Önnek a kiemelt hírekről? Az értesítések bármikor kikapcsolhatók a böngésző beállításaiban.