Le générateur d'images AI de Google Earth a généré trop de fausses nouvelles

Google a désactivé une fonctionnalité de son application Google Earth qui utilisait l'intelligence artificielle pour générer des images, suite à des inquiétudes concernant la création de contenu trompeur. Les images générées par l'IA étaient initialement destinées à des fins éducatives et de visualisation, telles que la reconstruction de sites anciens ou l'illustration de projets de construction. Cependant, les journalistes ont réussi à contourner les avertissements du système, conduisant à la production de visuels très réalistes mais fabriqués qui pourraient être confondus avec des scènes du monde réel.

Il a permis aux utilisateurs de créer des reconstructions détaillées en trois dimensions de lieux historiques, de visualiser des plans architecturaux et d'ajouter des couches d'informations aux cartes. Bien qu'ils aient été étiquetés comme générés par l'IA et accompagnés d'avertissements, certains utilisateurs ont trouvé des moyens de supprimer ces alertes, leur permettant de partager des images qui semblaient authentiques.

Selon Google, la décision de désactiver la fonctionnalité a été prise après que les utilisateurs ont commencé à partager des captures d'écran qui semblaient violer les directives de l'entreprise.

Des experts en journalisme de données et en détection de fausses nouvelles, tels que Henk van Ess, ont noté que les images générées par l'IA représentaient un sérieux défi pour les processus de vérification des médias. Certains des outils généralement utilisés pour détecter les deepfakes et les médias synthétiques n'ont pas réussi à identifier les images fabriquées par Nano Banana.

Cela a soulevé des questions sur la fiabilité des méthodes de détection actuelles contre le contenu généré par l'IA, en particulier lorsque le contenu semble visuellement indiscernable de la réalité.

L'incident souligne les défis plus vastes associés à l'intégration de l'IA dans des applications destinées aux consommateurs, où la frontière entre l'innovation utile et l'abus potentiel peut devenir floue. La désactivation du générateur d'images d'IA fait suite à une prise de conscience croissante des risques associés aux technologies de deepfake et de leur impact sur la confiance du public dans les médias numériques. Alors que les entreprises continuent d'explorer les capacités de l'IA, elles sont confrontées à une pression croissante pour équilibrer l'innovation avec la responsabilité, en veillant à ce que les nouvelles fonctionnalités ne contribuent pas par inadvertance à la propagation de la désinformation.

La décision de Google reflète cette tension en cours, car elle cherche à exploiter les avantages de l'IA tout en atténuant son potentiel de préjudice.