Por qué todos deberíamos preocuparnos por la IA en las elecciones

Una cumbre global convocada por las Naciones Unidas el mes pasado en Ginebra reunió a representantes de los 193 estados miembros para abordar la creciente necesidad de directrices internacionales sobre inteligencia artificial. A pesar del amplio alcance de las discusiones, que cubren temas como la seguridad, la confiabilidad y las implicaciones sociales de la IA, el tema de la influencia de la IA en los procesos democráticos, específicamente las elecciones, recibió una atención mínima. Los expertos advierten que esta supervisión podría debilitar los esfuerzos para regular la IA de manera efectiva en otras áreas, incluidas las consideraciones éticas y la protección de los derechos humanos.

El diálogo, conocido como el Diálogo Global inaugural sobre la gobernanza de la IA, tenía como objetivo establecer un marco para gestionar la rápida evolución de la IA. Sin embargo, la ausencia de una discusión detallada sobre el papel de la IA en las elecciones ha generado preocupaciones entre los académicos y los responsables políticos. El Panel Científico Internacional Independiente sobre la IA de la ONU abordó el potencial de la IA para difundir información errónea a través de la tecnología deepfake, pero en gran medida pasó por alto los riesgos sistémicos más amplios planteados por la integración de la IA en los mismos mecanismos que defienden la participación democrática.

Las bases de datos de registro de votantes, las herramientas de identificación biométrica y el software de gestión de resultados electorales ahora dependen en gran medida de algoritmos de IA. Estos sistemas a menudo son desarrollados y mantenidos por compañías privadas que operan fuera de la supervisión directa de las comisiones electorales nacionales. Este cambio plantea preguntas sobre la transparencia, la rendición de cuentas y el potencial de mal uso o mal funcionamiento dentro de la infraestructura democrática crítica. India proporciona un ejemplo notable de estas preocupaciones.

La iniciativa tenía como objetivo identificar y eliminar votantes duplicados o fallecidos de la lista electoral. Sin embargo, el proceso se basó en un algoritmo de aprendizaje automático administrado por la Autoridad de Identificación Única de la India, que opera bajo control ejecutivo en lugar de como una entidad independiente. 5 millones de votantes fueron eliminados de las listas en dos estados sin la notificación adecuada o medios de apelación.

Aunque la Corte Suprema de la India intervino y detuvo el programa, iniciativas similares se han reintroducido desde entonces en todo el país, aumentando los temores sobre la confiabilidad y la imparcialidad de la administración electoral impulsada por la IA. Más allá de los casos específicos de error algorítmico, existe una preocupación más amplia con respecto a la descentralización del poder electoral. En muchas regiones de África, Asia y América Latina, las empresas privadas diseñan, suministran y alojan tecnologías relacionadas con las elecciones. Estas entidades a menudo operan más allá de la jurisdicción de los órganos reguladores nacionales, creando vulnerabilidades relacionadas con la seguridad de los datos, las auditorías del sistema y la detección de sesgos o fallas algorítmicas.

La creciente dependencia de los chatbots impulsados por IA para la educación de los votantes complica aún más las cosas. Plataformas como ChatGPT de OpenAI y Gemini de Google proporcionan información a los votantes antes de las elecciones. Sin embargo, estos sistemas pueden generar contenido engañoso o amplificar los sesgos existentes, especialmente en áreas con acceso limitado a Internet o diversidad lingüística. Tales problemas pueden afectar desproporcionadamente a las comunidades marginadas, exacerbando las desigualdades existentes en el compromiso político y la representación.

A medida que la IA continúa impregnando los sistemas electorales a nivel mundial, el desafío no solo radica en abordar las fallas tecnológicas individuales, sino también en garantizar que las estructuras que rigen las elecciones sigan siendo transparentes, responsables y resistentes a la manipulación. La falta de estándares internacionales integrales para la gobernanza de la IA en las elecciones subraya la urgencia de desarrollar marcos sólidos que salvaguarden los procesos democráticos contra la interferencia intencional y las consecuencias no deseadas del avance tecnológico.