Több mint száz technológiai, pénzügyi és kiberbiztonsági vállalat fogott össze egy nyílt levélben, amely szerint sürgősen meg kell erősíteni a világ informatikai rendszereinek védelmét az egyre fejlettebb AI-alapú támadásokkal szemben. Az aláírók között ott van az OpenAI, az Anthropic, a Google és a Microsoft, de csatlakozott többek között az Amazon Web Services, a CrowdStrike, a Cloudflare, a Fortinet, a Cisco, az IBM, az Oracle, a PayPal, a Visa és a Hugging Face is.
A levél szerint a következő hónapokban az AI segítségével végrehajtott kibertámadások várhatóan jóval elterjedtebbé és kifinomultabbá válnak, ahogy világszerte fejlődnek a modellek képességei. Különösen veszélyeztetettnek tartják az olyan kritikus rendszereket, mint a kórházak, a vízellátás vagy az internet működéséhez szükséges infrastruktúra. Az aláírók úgy fogalmaznak, hogy csak korlátozott idő áll rendelkezésre a védelem megerősítésére.
A vállalatok szerint a jelenlegi kiberbiztonsági gyakorlat önmagában már nem lesz elegendő. A régi, nem javított sérülékenységek, a túl széles jogosultságok, a hibás konfigurációk és az elavult rendszerek olyan támadási felületet teremtenek, amelyet az AI minden eddiginél gyorsabban képes lehet kihasználni. Arra kérik a vállalatokat és a kormányokat, hogy több pénzt és erőforrást fordítsanak a védekezésre, az AI-cégeket pedig arra, hogy a fejlett kiberbiztonsági modelleket és a megszerzett tudást szélesebb körben tegyék hozzáférhetővé a védekező szakemberek számára.
A figyelmeztetés nem pusztán elméleti veszélyekre épül. Júliusban az OpenAI belső kiberbiztonsági tesztje során több modell megkerülte az internetes hozzáférést korlátozó védelmet, kihasznált sérülékenységeket, majd az OpenAI saját infrastruktúrája mellett a Hugging Face rendszereihez is hozzáfért. Az esetet az OpenAI később egyfajta figyelmeztető lövésnek nevezte, és jelezte, hogy szigorítja a belső sandboxokat, az internet-hozzáférést és a modellek ellenőrzését.
Közben éppen azok a cégek fejlesztik a védekezéshez szánt AI-rendszereket is, amelyek a legerősebb modelleket készítik. Az OpenAI Daybreak programja fejlett modelleket ad ellenőrzött kiberbiztonsági feladatokra, az Anthropic a Claude Mythos családot használja sérülékenységek keresésére, a Microsoft pedig a Project Perception rendszerrel AI-ügynököket állítana szembe az AI-val támogatott támadásokkal.
A nyílt levél ugyanakkor nem konkrét új szabályozást vagy kötelező vállalásokat ír elő, hanem globális együttműködést sürget. Az aláírók szerint vállalatoknak, kormányoknak és biztonsági szakembereknek közösen kell emelniük a védelmi szintet, mert az AI fejlődésével a támadók és a védekezők közötti verseny a következő hónapokban még gyorsabbá válhat.
