El generador de imágenes con IA en Google Earth generó demasiadas noticias falsas

Google ha desactivado una función dentro de su aplicación Google Earth que utilizaba inteligencia artificial para generar imágenes, tras las preocupaciones sobre la creación de contenido engañoso. Las imágenes generadas por IA estaban inicialmente destinadas a fines educativos y de visualización, como la reconstrucción de sitios antiguos o la ilustración de proyectos de construcción. Sin embargo, los periodistas lograron eludir las advertencias del sistema, lo que llevó a la producción de imágenes altamente realistas pero fabricadas que podrían confundirse con escenas del mundo real. La función se lanzó solo dos días antes, el 30 de julio, con el modelo interno de IA conocido como Nano Banana.

Permitió a los usuarios crear reconstrucciones detalladas y tridimensionales de ubicaciones históricas, visualizar planes arquitectónicos y agregar capas de información a los mapas. A pesar de ser etiquetados como generados por IA y acompañados de avisos de advertencia, algunos usuarios encontraron formas de suprimir estas alertas, lo que les permitió compartir imágenes que parecían auténticas. Entre los que probaron la función estaban reporteros de la BBC, que generaron con éxito imágenes de estructuras inexistentes, incluida una Torre Eiffel derribada, una pirámide sumergida de Gaza y un parque público cerca de la Casa Blanca.

Según Google, la decisión de desactivar la función se produjo después de que los usuarios comenzaron a compartir capturas de pantalla que parecían violar las pautas de la compañía. Si bien había muchos expertos geoespaciales que tenían usos legítimos para la herramienta, Google declaró que se sentía obligado a desarrollar una versión con "salvaguardas más estrictas" para evitar el uso indebido. La compañía enfatizó que la intención principal detrás de la función de IA era mejorar la experiencia del usuario a través de visualizaciones precisas e informativas, particularmente para contextos históricos y arqueológicos.

Los expertos en periodismo de datos y detección de noticias falsas, como Henk van Ess, notaron que las imágenes generadas por IA representaban un serio desafío para los procesos de verificación de los medios. Algunas de las herramientas típicamente utilizadas para detectar deepfakes y medios sintéticos no pudieron identificar las imágenes fabricadas producidas por Nano Banana.

Esto planteó dudas sobre la confiabilidad de los métodos actuales de detección contra el contenido generado por IA, especialmente cuando el contenido parece visualmente indistinguible de la realidad. En respuesta a la situación, Google confirmó que refinaría la funcionalidad de IA para garantizar controles más estrictos sobre la generación y distribución de imágenes. No se han revelado detalles específicos sobre las nuevas salvaguardias, pero la compañía indicó que las actualizaciones futuras incluirían mecanismos mejorados para evitar la manipulación no autorizada de las imágenes generadas.

El incidente subraya los desafíos más amplios asociados con la integración de la IA en aplicaciones orientadas al consumidor, donde la línea entre la innovación útil y el abuso potencial puede volverse borrosa. La desactivación del generador de imágenes de IA sigue a una creciente conciencia de los riesgos asociados con las tecnologías de deepfake y su impacto en la confianza pública en los medios digitales. A medida que las empresas continúan explorando las capacidades de la IA, se enfrentan a una creciente presión para equilibrar la innovación con la responsabilidad, asegurando que las nuevas características no contribuyan inadvertidamente a la propagación de la desinformación.

El movimiento de Google refleja esta tensión en curso, ya que busca aprovechar los beneficios de la IA al tiempo que mitiga su potencial de daño.