La IA en la política: sesgos y alucinaciones

El uso de la inteligencia artificial (IA) en el periodismo ha provocado un debate significativo después de incidentes recientes que involucran a figuras políticas prominentes. El Frankfurter Allgemeine Zeitung (FAZ) se encontró en el centro de la controversia cuando una contribución de invitado escrita por el Ministro Presidente de Turingia, Mario Voigt, tuvo que ser eliminada de su sitio web y archivada. El texto contenía citas atribuidas a terceros que nunca fueron habladas o escritas. Estas inexactitudes fueron identificadas como "alucinaciones" generadas por la tecnología de IA. Este incidente planteó serias preocupaciones sobre la confiabilidad del contenido producido utilizando herramientas de IA, particularmente cuando se utiliza en el discurso público.

Poco después de esta revelación, salió a la luz que el Ministro Federal de Asuntos Digitales, Karsten Wildberger, había utilizado la IA para redactar varios discursos y contribuciones de invitados, incluido uno publicado en el Frankfurter Allgemeine Sonntagszeitung. La FAZ posteriormente eliminó estos textos de su plataforma en línea. Tradicionalmente, el modelo de una contribución de invitado se basaba en la cooperación mutua entre el medio de comunicación y el autor, donde este último proporcionaba argumentos bien pensados y originales. Sin embargo, este modelo parece estar socavado cuando el contenido se genera automáticamente y potencialmente alucinado por algoritmos.

Sin embargo, el uso de herramientas de IA no está prohibido. Por el contrario, la IA puede ayudar en la investigación, la comprobación de hechos, la identificación de contradicciones en los argumentos, la corrección de pruebas y proporcionar resúmenes o prefacios a petición. El texto final debe originarse de un ser humano que concibió la idea y articuló sus pensamientos. El autor conserva la autoridad de contenido sobre el texto, pero está permitido mejorarlo a través de la asistencia de IA.

Durante las últimas cuatro décadas, el campo del periodismo ha sido testigo de numerosas transformaciones tecnológicas. Inicialmente, el sonido de las máquinas de escribir dictó el ritmo de la producción de noticias en ruidosas salas editoriales. Más tarde, siguió la transición a sistemas de edición electrónica, luego el cambio de la fotografía analógica a la digital, que reemplazó a las salas oscuras con tarjetas de almacenamiento y software de edición de imágenes, lo que permitió manipulaciones que antes no estaban completamente excluidas. El procesamiento de textos moderno permitió ediciones rápidas y copias de textos. Eventualmente, la interrupción causada por Internet pareció marcar el final de esta evolución. Sin embargo, los cambios continuaron.

A lo largo de estas transiciones, siempre ha habido advertencias sobre el declive de la artesanía periodística. Sin embargo, el enfoque correcto nunca ha sido el rechazo absoluto, sino la adaptación inteligente. Siempre ha sido necesario dominar nuevas herramientas para mejorar el oficio y mantener la competitividad en las operaciones comerciales. Ahora, la IA representa el paso más significativo en esta cadena. El camino correcto aquí es el uso consciente y controlado por humanos de la IA en el trabajo editorial.

Una redacción moderna debe aprender a actuar como un "jefe" para la IA, utilizándola como asistente para analizar vastos conjuntos de datos, reconocer patrones en documentos complejos, programar y vocalizar textos, transcribir entrevistas y traducirlas.

La IA es una excelente herramienta de trabajo, pero no es un periodista. Ya sea para contextualizar una noticia o para construir un argumento coherente basado en la experiencia humana en un comentario, los periodistas siguen siendo indispensables en la era de la IA. La avalancha de contenido generado puramente por máquinas que abruma incontrolablemente Internet exige más que nunca la presencia de periodistas humanos.

Sam Altman, CEO de OpenAI y una de las fuerzas motrices detrás de la revolución de la IA, cree que los humanos siempre estarán principalmente interesados en lo que

El uso de la IA en la política también ha llamado la atención debido a posibles sesgos y alucinaciones. Ciertamente hay indignación con respecto a los políticos que usan la IA, pero lo más importante es que se necesita un análisis de los riesgos cuando las máquinas reemplazan a los humanos. El ministro de Digital Karsten Wildberger (CDU) ha sido acusado de mentir sobre su uso de la IA para su trabajo. Está claro que Wildberger usa la IA para que se escriban discursos para él. Su portavoz confirmó que usa la IA como una herramienta de trabajo, afirmando que los textos mencionados se desarrollaron con el apoyo de la IA.

A principios de febrero, su ministerio lo negó, respondiendo a una solicitud de libertad de información de que Wildberger no había utilizado chatbots de IA en su papel como ministro federal de Asuntos Digitales y Modernización Estatal del 6 de mayo al 31 de diciembre de 2025.

Es concebible que Wildberger comenzó a usar IA para su trabajo como ministro federal después del 31 de diciembre de 2025. Pero es poco probable. Más plausible es que su ministerio construyó una distinción entre acciones privadas y oficiales que es difícil de mantener en la práctica. Si esto es cierto, surge la pregunta: ¿por qué lo hace? Solo Wildberger mismo podría responder eso. Sin embargo, una suposición plausible es que los políticos y su personal cercano evitan discutir abiertamente su uso de IA porque temen las críticas por permitir que la IA se haga cargo de su proceso de pensamiento.

Esta preocupación es justificada: los ejemplos de los textos de Wildberger y de otros ministros, como Mario Voigt y Sven Schulze (ambos CDU), muestran que a menudo surgen una serie de declaraciones y generalizaciones clichés, carentes de sustancia y de conocimientos más profundos cuando se deja a la IA generar contenido libremente.

Los riesgos mucho mayores se encuentran en otros lugares. Un problema es que los chatbots de IA a menudo proporcionan respuestas falsas, conocidas como "alucinaciones". Otro es el llamado sesgo, lo que significa que pueden tener prejuicios. El sesgo es un concepto complejo; generalmente se refiere a la discriminación contra ciertos grupos o puntos de vista porque no están adecuadamente representados en los datos utilizados para entrenar sistemas de IA.