Pourquoi nous devrions tous nous inquiéter de l'IA dans les élections

Un sommet mondial convoqué par les Nations Unies le mois dernier à Genève a réuni des représentants des 193 États membres pour répondre au besoin croissant de lignes directrices internationales sur l'intelligence artificielle. Malgré le large éventail des discussions, couvrant des sujets tels que la sécurité, la fiabilité et les implications sociétales de l'IA, la question de l'influence de l'IA sur les processus démocratiques, en particulier les élections, a reçu une attention minimale. Les experts avertissent que cette surveillance pourrait affaiblir les efforts visant à réglementer efficacement l'IA dans d'autres domaines, y compris les considérations éthiques et la protection des droits de l'homme.

Le dialogue, connu sous le nom de Dialogue mondial inaugural sur la gouvernance de l'IA, visait à établir un cadre pour gérer l'évolution rapide de l'IA. Cependant, l'absence d'une discussion détaillée sur le rôle de l'IA dans les élections a suscité des inquiétudes parmi les chercheurs et les décideurs.

Les bases de données d'enregistrement des électeurs, les outils d'identification biométrique et les logiciels de gestion des résultats électoraux s'appuient désormais fortement sur des algorithmes d'IA. Ces systèmes sont souvent développés et maintenus par des sociétés privées opérant en dehors de la surveillance directe des commissions électorales nationales.

L'initiative visait à identifier et à supprimer les électeurs en double ou décédés du registre électoral. Cependant, le processus reposait sur un algorithme d'apprentissage automatique géré par l'Autorité d'identification unique de l'Inde, qui opère sous le contrôle exécutif plutôt que comme une entité indépendante.

Bien que la Cour suprême de l'Inde soit intervenue et ait interrompu le programme, des initiatives similaires ont depuis été réintroduites dans tout le pays, suscitant des craintes quant à la fiabilité et à l'équité de l'administration électorale pilotée par l'IA. Au-delà des cas spécifiques d'erreur algorithmique, il existe une préoccupation plus large concernant la décentralisation du pouvoir électoral. Dans de nombreuses régions d'Afrique, d'Asie et d'Amérique latine, des entreprises privées conçoivent, fournissent et hébergent des technologies liées aux élections. Ces entités opèrent souvent au-delà de la juridiction des organismes de réglementation nationaux, créant des vulnérabilités liées à la sécurité des données, aux audits du système et à la détection de biais ou de défaillances algorithmiques.

La dépendance croissante aux chatbots alimentés par l'IA pour l'éducation des électeurs complique encore les choses. Des plateformes telles que ChatGPT d'OpenAI et Gemini de Google fournissent des informations aux électeurs avant les élections. Cependant, ces systèmes peuvent générer un contenu trompeur ou amplifier les préjugés existants, en particulier dans les zones avec un accès Internet limité ou une diversité linguistique. De tels problèmes peuvent affecter de manière disproportionnée les communautés marginalisées, exacerbant les inégalités existantes en matière d'engagement politique et de représentation.

Alors que l'IA continue de pénétrer les systèmes électoraux à l'échelle mondiale, le défi consiste non seulement à remédier aux défaillances technologiques individuelles, mais aussi à garantir que les structures régissant les élections restent transparentes, responsables et résistantes à la manipulation. L'absence de normes internationales complètes pour la gouvernance de l'IA dans les élections souligne l'urgence de développer des cadres robustes qui protègent les processus démocratiques contre les interférences intentionnelles et les conséquences imprévues des progrès technologiques.