Egyre fontosabb szerepet kap a mesterséges intelligencia a kiberhadviselésben is . A Google saját jelentése szerint több államilag támogatott hacker csoport is aktívan használja a Gemini AI-t támadások előkészítésére és végrehajtására, köztük Oroszországhoz, Kínához, Észak-Koreához és Iránhoz köthető szereplők. A Google Threat Intelligence Group átfogó elemzése szerint ezek a csoportok a vállalat felhasználási feltételeit megsértve vetették be a Geminit, elsősorban automatizált megfigyelésre, célpontok azonosítására és sebezhetőségek feltérképezésére. A dokumentált esetek között szerepel vállalatok, szeparatista szervezetek és politikai ellenzékiek megfigyelése is, de egyes kínai és iráni hátterű támadások már jóval kifinomultabbak voltak. Ezek során a Geminit exploitkódok hibakeresésére, pszichológiai manipulációra épülő forgatókönyvek kidolgozására, sőt egy Iránhoz köthető csoport esetében egy ismert WinRAR sérülékenységre támaszkodó bizonyítékkód fejlesztésére is használták.
A jelentés rávilágít arra a kettősségre, amely a nagy nyelvi modelleket jellemzi. Az ilyen rendszerek kifejezetten erősek hatalmas adathalmazok elemzésében és összefoglalásában, ami legitim területeken, például csillagászatban vagy rákkutatásban években mérhető emberi munkát válthat ki. Ugyanez a képesség azonban a hackerek számára is aranybánya, hiszen a sebezhetőségek felkutatása, a célpontok kiválasztása és a megtévesztő kommunikáció előkészítése rengeteg adat átfésülését igényli.
A Google példaként említ egy APT31 néven azonosított csoportot, amely olyan Gemini-parancsokat használt, mintha legitim biztonsági kutatás zajlana. A rendszer számára gyakorlatilag lehetetlen különbséget tenni egy jóindulatú, úgynevezett white hat kutató és egy rosszindulatú támadó között, mivel a módszertan és az eszköztár tekintetében sok az átfedés. Így az AI által adott válaszok is azonosak lehetnek, még akkor is, ha a vállalat szerint az ilyen jellegű felhasználás egyértelműen tiltott.
A beszámoló szerint a Geminit nemcsak kifinomult támadásokhoz, hanem egyszerűbb feladatokra is bevetik, például kártékony kódok írására és javítására. Emellett propaganda és politikai szatíra előállítására is használják, amely nemcsak digitális felületeken, hanem fizikai formában, például nyomtatott plakátokon is megjelenik.
A Google állítása szerint minden olyan felhasználótól megvonta a Geminihez való hozzáférést, akit egyértelműen rosszindulatú tevékenységgel tudott összekapcsolni, beleértve az államilag támogatott hacker csoportokat is.
