A Google július 30-án megnyitotta a Google Earth képgenerátorát az egész világ előtt. Július 31-én már vissza is vonta. A gyártó frissített bejelentése szerint a Nano Banana 2 segítségével valódi műhold-, légifotó- és 3D-adatokból lehetett új jeleneteket készíteni, de a megosztott, szabályt sértő képek miatt erősebb védelemre van szükség.
A rövid életű funkció mögött volt értelmes ötlet. Egy üres telekre rá lehetett rajzoltatni egy tervezett épületet, történelmi helyszínt lehetett rekonstruálni, vagy infografikát készíteni egy városrészről. Ugyanez az eszköz azonban néhány szó után kitalált katasztrófát is rá tudott tenni egy valódi helyszínre. Innen már gyorsan elfogyott a türelem.
Nem a nyilvános térképet írta át az AI
A fontos pontosítás: a generált képek nem kerültek rá mindenki Google Earth térképére. A felhasználó saját nézetében készültek, és a Google szerint AI-jelölést, valamint SynthID digitális vízjelet kaptak. Ha valaki később megnyitotta ugyanazt a helyet, továbbra is az eredeti térképi adatot látta.
A gond a képernyőképpel kezdődött. Egy Google Earthből kivágott, felülnézeti kép eleve hiteles dokumentum benyomását kelti. Ha ezen füst, romok, tömeg vagy egy soha meg nem történt építkezés jelenik meg, a kép a felület és a jelölések levágása után könnyen önálló életre kelhet. A SynthID segíthet az eredeti fájl vizsgálatánál, de egy újratömörített vagy továbbfotózott képnél már nem biztos, hogy a néző egyáltalán ellenőrizni próbálja.
A bemutatóban várostervezés volt, a próbákban kitalált támadás
A Google eredeti példái között történelmi Pompeji-rekonstrukció, New York-i infografika, tokiói bevásárlónegyed és egy tóparti ház látványterve szerepelt. A funkció a Google Earth webes változatában a create image gombbal indult, a felhasználónak pedig csak le kellett írnia, mit szeretne látni az adott helyen.
A The Atlantic próbája egészen más irányba vitte. A lap munkatársa hamis tüzeket, városi pusztítást, kitalált tüntetéseket és más, hírfotónak látszó jeleneteket készített valódi helyszíneken. Beszámolója szerint egyes képekhez négy másodperc is elég volt.
Különösen kellemetlen, hogy a Google Earthbe épített változat olyan jelenetet is elkészített, amelyet a Nano Banana közvetlen használatakor a rendszer megtagadott. Ez arra utal, hogy az integráció védelme nem pontosan ugyanúgy működött, mint az alapmodellé. A hiba nem az volt, hogy a technológia képes képet szerkeszteni. Az volt a baj, hogy egy megbízható térképi környezetben kapott hozzá valódi helyszínt és hitelesnek látszó keretet.
A Google először az ellenőrzést ajánlotta, aztán visszavonult
A cég kezdetben azt hangsúlyozta, hogy minden kép vízjelezett, és a gyanús tartalom a Gemini vagy a Google Lens segítségével ellenőrizhető. Ez technikailag használható válasz, de a félrevezető képek terjedése nem így működik. A legtöbben nem töltenek le külön eszközt egy látott képernyőkép vizsgálatához, főleg akkor nem, ha az illeszkedik ahhoz a történethez, amit már eleve hihetőnek tartanak.
Ráadásul a hitelesség itt részben magából a termékből jön. Ugyanaz a Google Earth-kezelőfelület, amelyen valódi városokat, utakat és épületeket nézünk, a generált jelenetet is ismerős térképi környezetbe tette. Egy külön képgenerátornál a néző eleve számít a mesterséges tartalomra. Egy műholdképes alkalmazásnál sokan pont az ellenkezőjét feltételezik.
Július 31-én a Google már az eredeti blogbejegyzést is frissítette. A vállalat elismerte, hogy az emberek különösen megbíznak a Google Earthben, és olyan generált képernyőképeket láttak terjedni, amelyek látszólag megsértették a szabályokat. Ezért a funkciót visszavonták, amíg erősebb korlátokat nem építenek köré.
A visszavonás nem oldja meg a hitelességi problémát
A Google Earth azért különleges célpont, mert újságírók, kutatók és nyílt forrású hírszerzéssel foglalkozó szakemberek is használják. Műhold- és légifelvételekkel tüzeket, árvizeket, katonai károkat vagy építkezéseket lehet ellenőrizni olyan helyeken, ahová nehéz eljutni. Ha ugyanazon a felületen néhány kattintással mesterséges változat is készül, a valódi képek bizonyító ereje is könnyebben megkérdőjelezhető.
A funkció valószínűleg visszatér, mert tervezéshez és oktatáshoz tényleg hasznos. A következő változatnál azonban kevés lesz egy sarokba tett felirat. A rendszernek már a kérésnél meg kell állítania a híreseménynek, támadásnak vagy katasztrófának álcázott jeleneteket, a jelölésnek pedig akkor is meg kell maradnia, ha valaki képernyőképet készít. A Google most egyetlen nap alatt megtanulta, hogy a térképen elhelyezett fantázia sokkal gyorsabban válik álhírré, mint egy különálló képgenerátor eredménye.
