Az OpenAI bejelentette, hogy a legfejlettebb modelljeinek tanításához az élő internet helyett elmentett webes tartalmakat és szimulált környezeteket használ. A cél az, hogy az AI megtanulhasson böngészni, információt keresni és webes feladatokat végrehajtani anélkül, hogy közben valódi, külső rendszerekben okozhatna problémát.
A döntést valószínűleg nem kell sokat magyarázni, ha jártatok az interneten az utóbbi hónapokban. A feladataik megoldását kereső modellek többször is engedély nélkül fértek hozzá külső rendszerekhez, és a számukra kijelölt korlátokat is megkerülték. Ez nyilván nemcsak az OpenAI-t érinti, más vállalatok AI-modelljei is bejutottak valódi cégek rendszereibe olyan tesztek során, amelyeknek elvileg ellenőrzött környezetben kellett volna zajlaniuk.
A tesztek során az AI-ügynökök csoportjaival próbálták feltöretni a saját tesztkörnyezeteik határait. A feladatuk az volt, hogy találjanak kijáratot az internetre, érjenek el tiltott erőforrásokat, vagy kommunikáljanak olyan más ügynökökkel, amelyektől el kellett volna különülniük.
A kísérletek sikeresek voltak, mert korábban ismeretlen sérülékenységeket és konfigurációs hibákat tártak fel.
Az új megoldás egy hatalmas, kereshető, elmentett webes tartalmakból álló "offline világ". A kísérletek működtetéséhez és felügyeletéhez továbbra is szükség van külső kapcsolatokra, de - elméletileg - ezeket úgy korlátozzák, hogy a modellek ne használhassák őket engedély nélküli kijáratként.
Az Anthropic két héttel korábban szintén az internet-hozzáférés szigorítása mellett döntött saját tesztjeinél.
