L'intelligenza artificiale di Google Earth ha generato troppe notizie false

Google ha disattivato una funzionalità all'interno della sua applicazione Google Earth che utilizzava l'intelligenza artificiale per generare immagini, a seguito di preoccupazioni per la creazione di contenuti fuorvianti. Le immagini generate dall'IA erano inizialmente destinate a scopi educativi e di visualizzazione, come la ricostruzione di siti antichi o l'illustrazione di progetti di costruzione. Tuttavia, i giornalisti sono riusciti a bypassare gli avvertimenti del sistema, portando alla produzione di immagini altamente realistiche ma fabbricate che potrebbero essere scambiate per scene del mondo reale.

La funzione ha permesso agli utenti di creare ricostruzioni dettagliate e tridimensionali di luoghi storici, visualizzare piani architettonici e aggiungere livelli di informazioni alle mappe. Nonostante siano stati etichettati come generati dall'IA e accompagnati da avvisi di avvertimento, alcuni utenti hanno trovato modi per sopprimere questi avvisi, consentendo loro di condividere immagini che apparivano autentiche. Tra coloro che hanno testato la funzione c'erano giornalisti della BBC, che hanno generato con successo immagini di strutture inesistenti, tra cui una Torre Eiffel rovesciata, una piramide sommersa di Gaza e un parco pubblico vicino alla Casa Bianca.

Secondo Google, la decisione di disabilitare la funzionalità è arrivata dopo che gli utenti hanno iniziato a condividere screenshot che sembravano violare le linee guida dell'azienda. Mentre c'erano molti esperti geospaziali che avevano usi legittimi per lo strumento, Google ha dichiarato di sentirsi costretto a sviluppare una versione con "garanzie più rigorose" per prevenire l'uso improprio.

Gli esperti di giornalismo di dati e rilevamento di notizie false, come Henk van Ess, hanno notato che le immagini generate dall'IA rappresentavano una seria sfida per i processi di verifica dei media. Alcuni degli strumenti tipicamente utilizzati per rilevare deepfakes e media sintetici non sono riusciti a identificare le immagini fabbricate da Nano Banana.

Ciò ha sollevato dubbi sull'affidabilità degli attuali metodi di rilevamento contro i contenuti generati dall'IA, specialmente quando il contenuto appare visivamente indistinguibile dalla realtà.

L'incidente sottolinea le sfide più ampie associate all'integrazione dell'IA in applicazioni rivolte al consumatore, dove la linea tra innovazione utile e potenziale abuso può diventare sfocata. La disattivazione del generatore di immagini di IA segue una crescente consapevolezza dei rischi associati alle tecnologie deepfake e al loro impatto sulla fiducia del pubblico nei media digitali. Man mano che le aziende continuano a esplorare le capacità dell'IA, si trovano di fronte a una crescente pressione per bilanciare l'innovazione con la responsabilità, garantendo che le nuove funzionalità non contribuiscano inavvertitamente alla diffusione della disinformazione.

La mossa di Google riflette questa tensione in corso, in quanto cerca di sfruttare i benefici dell'IA riducendone al contempo il potenziale di danno.