Google desactivó este viernes la función de Google Earth que apenas un día antes había permitido a cualquier usuario alterar imágenes de satélite mediante instrucciones de texto gracias a la IA. El experimento, basado en el modelo Nano Banana 2, dejaba generar deepfakes fotorrealistas del mundo real: el periodista de investigación Henk van Ess demostró que se podían añadir, por ejemplo, refugiados junto a la frontera mexicana o un cráter de bomba junto a un hospital en Gaza.
En un primer comunicado, Google defendió que las imágenes generadas incluían una marca de agua digital y que el sistema bloqueaba los «temas sensibles». Horas después, la compañía dio un giro completo: «Sabemos que la gente confía en Google Earth para obtener una vista fiable del mundo. Hemos visto usos profesionales útiles, pero también capturas compartidas que parecen violar nuestras políticas. Vamos a retirar esta función mientras implementamos barreras más sólidas», señaló la empresa, que aclaró que las imágenes alteradas no aparecían en la vista principal de Google Earth para otros usuarios y estaban marcadas como generadas por IA.
Van Ess también demostró que las imágenes y vídeos creados con la herramienta conseguían burlar el detector de IA de Hive, lo que evidencia que la marca de agua no impide la difusión del material manipulado. En sus pruebas, según declaró, «nada fue rechazado, nada se suavizó y nada me sugirió probar otro prompt». La retirada deja en el aire cómo y cuándo Google reincorporará una capacidad similar, si es que lo hace.