A Google egy új, kifejezetten mesterséges intelligenciára fókuszáló hibavadász programot indított, amelyben a kutatók akár 30 000 dollárt, vagyis több mint 10 millió forintot is kereshetnek, ha biztonsági réseket találnak a vállalat MI-termékeiben. A cél az, hogy még időben felfedezzék azokat a sebezhetőségeket, amelyekkel a támadók rosszindulatú műveletekre kényszeríthetik az MI-rendszereket.
A Google példákon keresztül is bemutatta, milyen típusú hibákat keres: ilyen lehet például egy olyan prompt injection, amely a Google Home-ot arra veszi rá, hogy kinyisson egy ajtót, vagy egy adatlopási parancs, amely összegzi egy felhasználó e-mailjeit és elküldi azokat a támadónak.
A dedikáltan MI hiba alatt a cég az olyan biztonsági réseket érti, amelyek nagy nyelvi modellek vagy generatív MI-rendszerek manipulálásával ártalmas vagy nem kívánt cselekedetre készteti a szolgáltatást. Ide tartozik minden olyan eset, amikor az MI módosítja a felhasználó adatait, fiókját, vagy fizikai rendszereket (például okoseszközöket) irányít.
A Google már két éve ösztönzi a biztonsági kutatókat, hogy teszteljék MI-termékeit, és eddig több mint 430 000 dollárt fizetett ki a hibák felfedezőinek.
A hibavadász programmal párhuzamosan a Google bejelentette új MI-eszközét is, a CodeMender nevű kódjavító ügynököt, amely automatikusan azonosítja és kijavítja a biztonsági hibákat. A vállalat szerint a CodeMender eddig 72 nyílt forráskódú projektben segített sebezhetőségek befoltozásában.
A legnagyobb, 20 000 dolláros alapdíj a Google főbb termékeihez kapcsolódó hibákért jár, amilyen a Google Kereső, a Gemini-alkalmazások, valamint a Workspace-csomag. A különösen részletes vagy újszerű jelentésekért szorzók is járhatnak, így a jutalom akár 30 000 dollárra is nőhet.
