KI-Ergebnisse bei Google: Informationsroulette bei den Landtagswahlen

À la fin du mois de septembre, les électeurs de trois États allemands, Sachsen-Anhalt, Berlin et Mecklenburg-Vorpommern, voteront lors d'élections régionales. Au milieu de cette activité politique, des inquiétudes ont émergé quant à la manière dont les résumés de recherche générés par l'IA de Google traitent les questions liées au contenu électoral. L'organisation à but non lucratif AlgorithmWatch a mené une étude examinant la transparence et la neutralité de ces extraits basés sur l'IA, qui apparaissent dans environ la moitié de toutes les recherches en Allemagne depuis le début de 2025. De nombreux utilisateurs s'appuient sur ces brefs résumés sans cliquer sur les sources originales, ce qui soulève des inquiétudes quant à l'impact potentiel sur la prise de décision éclairée.

L'enquête a été menée à l'aide de l'API interne de Google "Résultats du chercheur de recherche", mise à disposition en vertu de la loi sur les services numériques. Les chercheurs ont pu soumettre près de 4 500 requêtes liées aux prochaines élections dans les trois États et analyser les résumés générés par l'IA aux côtés de leurs sources citées. Selon les résultats, Google ne fournit pas de critères clairs pour l'affichage de ces résumés de l'IA. Le manque de transparence a été critiqué comme potentiellement arbitraire, avec des implications pour le discours démocratique.

Bien que l'étude ait révélé que Google génère des résumés d'IA moins fréquemment pour les requêtes liées aux élections que pour les non politiques, il n'est pas clair si des mesures spécifiques sont prises pour traiter le contenu électoral. Il ne semble pas y avoir de modèle cohérent dans la façon dont l'IA décide d'afficher ses résumés. Par exemple, les questions sur les sondages déclenchent rarement des résumés d'IA, tandis que les demandes de renseignements sur les partis et les candidats individuels le font dans jusqu'à 50% des cas. Des différences ont également été observées entre les États: moins de résumés d'IA sont apparus dans les réponses aux questions sur la Saxe-Anhalt qu'à Berlin ou Mecklenburg-Vorpommern.

Une conclusion clé est que le nombre de sources citées dans les résumés de l'IA était souvent limité. Près de la moitié des liens fournis indiquaient moins de dix sources, YouTube, une filiale de Google, étant représentée de manière disproportionnée. Parmi les dix premiers sites Web référencés, les radiodiffuseurs publics, Wikipédia, les plateformes de médias sociaux et les sites officiels du gouvernement ou des partis étaient inclus. Cela suggère un biais possible vers des sources familières ou affiliées, limitant potentiellement l'exposition à diverses perspectives.

Selon AlgorithmWatch, ce phénomène, appelé sysycophancy, peut provenir des tendances inhérentes des grands modèles de langage à affirmer les points de vue des interrogateurs. Dans le contexte de la politique, un tel cadrage biaisé pourrait entraver la capacité des électeurs à se former des opinions équilibrées.

À l'approche de la période électorale, le rôle de l'IA dans l'élaboration de la perception du public continue d'attirer l'attention, mettant en évidence les défis constants à relever pour garantir que l'information numérique reste à la fois accessible et fiable.