A Google csütörtökön jelentette be, hogy a Nano Banana 2 képgeneráló modelljét beépíti a Google Earthbe. A vállalat eredetileg úgy mutatta be a Nano Banana 2 integrációját, mint amellyel a felhasználók látványterveket, történelmi rekonstrukciókat vagy városfejlesztési ötleteket helyezhetnek rá a Google Earth műholdas, légi és háromdimenziós felvételeire. Az elkészült képeket le is lehetett tölteni, így azok a Google Earth felületéről kikerülve, az eredeti környezet és figyelmeztetések nélkül is terjedhettek a közösségi oldalakon. A szolgáltatás térképi adatbázisa ettől nem változott meg: a generált jelenetek nem kerültek be a mindenki által elérhető Google Earth-képek közé, kizárólag az adott felhasználó által létrehozott tartalomként készültek el.
Ám a Google kevesebb mint 48 órával a bemutatása után visszavonta a képgeneráló funkciót. Talán már sejted is, hogy miért.
Úgynevezett emberiség a célcsoport, az pedig nem arról híres, hogy szereti a dolgokat értelmesen használni. Mivel funkció arra is alkalmas volt, hogy valós helyszínekről rendkívül megtévesztő, teljesen kitalált képeket készítsen, készültek is ilyenek tonnaszám. Összeomlott Eiffel-tornyot, a gízai piramist elnyelő víznyelőt és Kijevben megjelenő orosz harckocsikat generáltak az emberek, és persze ezek a képek valódi koordinátákra, valódi műholdas és 3D-s környezetre kerültek rá, ezért első pillantásra könnyen hiteles felvételeknek tűnhettek.
A dezinformációval foglalkozó Henk van Ess ennél is érzékenyebb példákkal tesztelte az eszközt: nem létező iráni atomerőművet, az amerikai-mexikói határ mellé helyezett menekülttábort, valamint egy gázai kórház közelében látható bombatölcsért hozott létre. A kutató szerint a hamisítványnak önmagában nem is kell tökéletesnek lennie, mert a Google Earth valódi térképi környezete automatikusan hitelességet kölcsönöz neki.
Ez különösen komoly probléma lehet háborúk, természeti katasztrófák vagy más gyorsan változó események idején. A Google Earth ugyanis nem pusztán szórakoztató térképes alkalmazás: újságírók, kutatók és nyílt forrású hírszerzéssel foglalkozó szakemberek is használják helyszínek és felvételek ellenőrzésére. Maga a szolgáltatás is nagyrészt arra építette fel a hírnevét, hogy megbízható hozzáférést kínál a világ műholdas és légi felvételeihez.
A Google azzal védekezett, hogy a generált képek nem kerültek be a Google Earth mindenki által látható térképrétegébe, és MI által létrehozott tartalomként vízjelet kaptak. A cég a SynthID nevű láthatatlan jelölést használja, amelyet a Gemini bizonyos esetekben képeken és videókon is képes felismerni. A BBC tesztje szerint azonban ezek a védelmi megoldások nem bizonyultak teljesen megbízhatónak. Külső MI-detektorok egyes esetekben nem ismerték fel a manipulált felvételeket, és a Geminit is sikerült úgy megtéveszteni, hogy valódinak minősítsen egy Google Earth segítségével generált képet. A tartalmi korlátozások szintén megkerülhetők voltak: bizonyos veszélyes kéréseket ugyan elutasított a rendszer, de kevésbé konkrét megfogalmazással hasonló jelenetek mégis létrehozhatók maradtak.
A Google közölte, hogy tisztában van azzal, milyen különleges bizalmat élvez a Google Earth, ezért a funkciót visszavonja, amíg erősebb biztonsági korlátozásokat nem épít be. A vállalat egyelőre nem árulta el, hogy a Nano Banana 2 képgenerálása mikor térhet vissza a szolgáltatásba.
