L'IA dans la politique: les préjugés et les hallucinations

L'utilisation de l'intelligence artificielle (IA) dans le journalisme a suscité un débat important à la suite d'incidents récents impliquant des personnalités politiques de premier plan. Le Frankfurter Allgemeine Zeitung (FAZ) s'est retrouvé au centre de la controverse lorsqu'une contribution d'invité écrite par le ministre président de la Thuringe, Mario Voigt, a dû être retirée de son site Web et archivée. Le texte contenait des citations attribuées à des tiers qui n'avaient jamais été réellement parlées ou écrites. Ces inexactitudes ont été identifiées comme des "hallucinations" générées par la technologie de l'IA. Cet incident a soulevé de graves inquiétudes quant à la fiabilité du contenu produit à l'aide d'outils d'IA, en particulier lorsqu'il est utilisé dans le discours public.

Peu de temps après cette révélation, il est apparu que le ministre fédéral des Affaires numériques, Karsten Wildberger, avait utilisé l'IA pour rédiger plusieurs discours et contributions d'invités, dont un publié dans le Frankfurter Allgemeine Sonntagszeitung. La FAZ a par la suite supprimé ces textes de sa plate-forme en ligne. Traditionnellement, le modèle d'une contribution d'invité reposait sur la coopération mutuelle entre le média et l'auteur, où ce dernier fournissait des arguments bien pensés et originaux. Cependant, ce modèle semble être miné lorsque le contenu est généré automatiquement et potentiellement halluciné par des algorithmes.

Pour l'équipe éditoriale de F.A.Z., il reste clair qu'ils continuent à écrire leurs articles eux-mêmes et à en assumer l'entière responsabilité. Néanmoins, l'utilisation d'outils d'IA n'est pas interdite. Au contraire, l'IA peut aider à la recherche, à la vérification des faits, à identifier les contradictions dans les arguments, à la relecture et à fournir des résumés ou des préfaces sur demande. Le texte final doit toujours provenir d'un humain qui a conçu l'idée et a articulé ses pensées. L'auteur conserve l'autorité du contenu sur le texte, mais il est permis de l'améliorer grâce à l'aide de l'IA.

Au cours des quatre dernières décennies, le domaine du journalisme a connu de nombreuses transformations technologiques. Initialement, le son des machines à écrire a dicté le rythme de la production de nouvelles dans des salles de rédaction bruyantes. Plus tard, la transition vers des systèmes d'édition électroniques a suivi, puis le passage de la photographie analogique à la photographie numérique, qui a remplacé les salles obscures par des cartes de stockage et des logiciels d'édition d'images, permettant des manipulations auparavant non entièrement exclues. Le traitement de texte moderne a permis des modifications rapides et la copie de textes. Finalement, la perturbation causée par Internet semblait marquer la fin de cette évolution. Pourtant, les changements se sont poursuivis.

Tout au long de ces transitions, il y a toujours eu des avertissements sur le déclin de l'artisanat journalistique. Cependant, l'approche correcte n'a jamais été le rejet pur et simple, mais plutôt l'adaptation intelligente. Il a toujours été nécessaire de maîtriser de nouveaux outils pour améliorer son artisanat et maintenir la compétitivité dans les opérations commerciales. Maintenant, l'IA représente l'étape la plus importante de cette chaîne. La bonne voie ici est l'utilisation consciente et contrôlée par l'homme de l'IA dans le travail éditorial.

Une rédaction moderne doit apprendre à agir comme un " patron " pour l'IA, en l'utilisant comme assistant pour analyser de vastes ensembles de données, reconnaître des modèles dans des documents complexes, programmer et vocaliser des textes, transcrire des interviews et les traduire.

L'IA est un excellent outil de travail, mais ce n'est pas un journaliste. Qu'il s'agisse de contextualiser une nouvelle ou de construire un argument cohérent basé sur l'expérience humaine dans un commentaire, les journalistes restent indispensables à l'ère de l'IA. L'inondation de contenu purement généré par des machines envahissant de manière incontrôlable Internet exige plus que jamais la présence de journalistes humains.

Sam Altman, PDG d'OpenAI et l'une des forces motrices de la révolution de l'IA, croit que les humains seront toujours principalement intéressés par ce que

L'utilisation de l'IA en politique a également attiré l'attention en raison des biais et des hallucinations potentiels. Il y a certainement de l'indignation concernant les politiciens utilisant l'IA, mais plus important encore, une analyse des risques lorsque les machines remplacent les humains est nécessaire. Le ministre du numérique Karsten Wildberger (CDU) a été accusé de mentir sur son utilisation de l'IA pour son travail. Il est clair que Wildberger utilise l'IA pour faire écrire des discours pour lui. Son porte-parole a confirmé qu'il utilise l'IA comme outil de travail, affirmant que les textes mentionnés ont été développés avec le soutien de l'IA.

Plus tôt en février, son ministère a nié cela, répondant à une demande de liberté d'information selon laquelle Wildberger n'avait pas utilisé de chatbots IA dans son rôle de ministre fédéral des affaires numériques et de la modernisation de l'État du 6 mai au 31 décembre 2025.

Il est concevable que Wildberger ait commencé à utiliser l'IA pour son travail en tant que ministre fédéral après le 31 décembre 2025. Mais c'est peu probable. Plus plausible est que son ministère ait construit une distinction entre les actions privées et officielles qui est difficile à maintenir dans la pratique. Si cela est vrai, la question se pose: pourquoi le fait-il? Seul Wildberger lui-même pourrait y répondre. Cependant, une hypothèse plausible est que les politiciens et leur personnel étroit évitent de discuter ouvertement de leur utilisation de l'IA parce qu'ils craignent les critiques pour avoir permis à l'IA de prendre le contrôle de leur processus de pensée.

Cette préoccupation est justifiée: des exemples tirés des textes de Wildberger et d'autres ministres, tels que Mario Voigt et Sven Schulze (tous deux de la CDU), montrent que souvent une série de déclarations et de généralisations clichés émergent, dépourvues de substance et de connaissances plus approfondies lorsque l'IA est laissée à générer librement du contenu.

Les risques beaucoup plus importants résident ailleurs. Un problème est que les chatbots d'IA fournissent fréquemment de fausses réponses, appelées "hallucinations". Un autre est le soi-disant biais, ce qui signifie qu'ils peuvent être préjugés. Le biais est un concept complexe; il fait généralement référence à la discrimination contre certains groupes ou points de vue parce qu'ils ne sont pas adéquatement représentés dans les données utilisées pour former les systèmes d'IA.