Nem sok időt vesztegetett az Nvidia vezetésével létrejött Open Secure AI Alliance. Az alig egy hete bejelentett iparági együttműködéshez már több mint 120 szervezet csatlakozott, és a tagok a Las Vegasban zajló Black Hat kiberbiztonsági konferencia idején már az első közös javaslatukat is nyilvánosságra hozták. Az új kezdeményezés a Shared AI Findings Exchange, röviden SAFE nevet kapta. A célja egy olyan közös rendszer kialakítása, amelyen keresztül a vállalatok bizalmasan jelenthetik az AI-rendszerekkel kapcsolatos biztonsági incidenseket és majdnem bekövetkezett problémákat, értesíthetik az érintett szervezeteket, majd közösen elemezhetik, mi ment félre.
A SAFE tervezete szándékosan nem a hibás szereplők megnevezésére vagy megbüntetésére épül. Ehelyett azt szeretnék elérni, hogy az egyes cégeknél megszerzett tapasztalatok ne maradjanak házon belül, hanem azokból az egész iparág tanulhasson. A rendszer idővel közösen használható teszteket, géppel olvasható biztonsági szabályokat, konfigurációkat és incidenskezelési ajánlásokat is tartalmazhat. Az első tervezeten többek között az Nvidia, a Cisco, a CrowdStrike, a Hugging Face és a Red Hat dolgozott a Linux Foundation közreműködésével. A dokumentum egyelőre nyilvános véleményezési szakaszban van, vagyis még nem végleges iparági szabványról van szó.
Közben a szövetség tagjai saját nyílt forráskódú technológiáikat is elkezdték összegyűjteni egy közös AI-biztonsági eszköztár alapjaként. Az Nvidia például a Garak nevű LLM-sebezhetőségvizsgálóját, különböző nyílt modelljeit és az AI-ügynökök működését ellenőrizhetőbbé tevő eszközeit adja a kezdeményezéshez.
Az Amazon a Strands Agents nevű nyílt forráskódú AI-ügynök keretrendszerrel és a Cedar jogosultságkezelési nyelvvel szállt be, az Okta az AI-ügynökök azonosításán és hozzáférés-kezelésén dolgozik, a Red Hat pedig olyan rendszert fejleszt, amely a vállalati és jogszabályi követelményeket közvetlenül az ügynökök működési szabályaihoz kapcsolja. A Microsoft, a Cisco, a Cloudflare, a Visa, a Palo Alto Networks és számos más vállalat szintén saját biztonsági eszközökkel járul hozzá az együttműködéshez. Az Open Secure AI Alliance július 27-én indult, és eredeti tagjai között olyan cégek szerepeltek, mint az Adobe, a Cisco, a Microsoft, az IBM, a Hugging Face, a Mistral, a Mozilla, a Salesforce, az SAP, az Uber és a Cloudflare. Azóta újabb vállalatok csatlakoztak, köztük az Amazon és a Visa is.
A kezdeményezés egyik fő célja, hogy az AI-ügynökök biztonságát ne kizárólag az egyes modellek szintjén kezeljék. Egy autonóm AI-rendszer ugyanis nemcsak egy nyelvi modellből áll, hanem hozzáférési jogosultságokat, külső eszközöket, naplózást, biztonsági korlátokat és más rendszerekkel kialakított kapcsolatokat is használ. Az OSAA ezek egészére próbál közösen ellenőrizhető, nyílt megoldásokat kialakítani.
A több mint 120 tag ellenére néhány különösen fontos AI-cég egyelőre hiányzik a szövetségből. A TechCrunch szerint sem az OpenAI, sem a Google, sem az Anthropic nem csatlakozott eddig, noha az OpenAI és a Google korábban aláírta azt a nyílt levelet, amely az Egyesült Államok kormányát az open weight AI-modellek támogatására szólította fel.
