Israël essaie de jouer avec les résultats de ChatGPT sur Gaza et l'armée israélienne

Selon des rapports d'investigation de Novara Media, plus de 100 articles anonymes ont été publiés en ligne au cours d'une semaine plus tôt ce mois-ci, tous liés à un groupe de réflexion nouvellement créé associé à la société de relations publiques préférée du gouvernement israélien aux États-Unis. Ces articles, qui apparaissent sur le site Web de l'Institut de politique publique de Hanovre, sont structurés comme des questions potentielles que les utilisateurs pourraient poser à un moteur de recherche ou à un assistant d'IA.

Le contenu est conçu pour s'aligner sur les messages pro-israéliens, suggérant un effort stratégique pour influencer la façon dont les systèmes d'intelligence artificielle interprètent et présentent les informations sur la région. Les publications de l'institut sont dépourvues de titres ou de noms de chercheurs, indiquant un niveau d'anonymat qui peut être intentionnel pour éviter une attribution directe. Les dossiers publics d'août révèlent que ces articles faisaient partie d'une campagne de 100 000 dollars visant à diffuser des informations factuelles et basées sur des sources pour éduquer le public américain sur Israël.

Daniel Rosenberg, co-fondateur de Piro, a déclaré à Politico que l'agence avait été engagée par l'État israélien pour fournir des faits exacts et vérifiés et combattre la désinformation sur Israël. Ni Havas Media ni le Hanover Institute n'ont répondu aux demandes de commentaires. Les tests menés par Piro ont montré que les principaux LLM, y compris ChatGPT, s'appuyaient sur le contenu du Hanover Institute pour répondre aux questions liées à Gaza, à l'armée israélienne, à l'antisionisme et à l'antisémitisme. Cependant, lorsque Novara Media a testé des requêtes similaires sur ChatGPT, Claude et Perplexity, aucune de ces plateformes n'a cité l'Institut Hanover comme source.

Les journalistes du Jerusalem Post ont découvert que Perplexity, un agrégateur d'informations alimenté par l'IA, s'appuyait fortement sur l'Institut de Hanovre lorsqu'on lui a demandé si l'armée israélienne était l'armée la plus morale au monde. Cet incident soulève des inquiétudes quant à l'intégrité des informations présentées par des outils basés sur l'IA et met en évidence le potentiel d'acteurs externes d'influencer le discours numérique par le biais de techniques sophistiquées de manipulation de données. Au fur et à mesure que la situation se développe, un examen plus approfondi se concentrera probablement sur la mesure dans laquelle de telles tactiques peuvent affecter la perception du public et les responsabilités éthiques des entreprises technologiques pour assurer la transparence et l'exactitude des résultats de leurs algorithmes.