Los anuncios de IA distorsionaron las palabras y posiciones de Talarico.

El reciente aumento en los anuncios políticos generados por IA ha provocado un debate significativo sobre los límites éticos de los mensajes de campaña. El candidato al Senado de Estados Unidos James Talarico, cuyas palabras y posiciones fueron aparentemente alteradas a través de la inteligencia artificial. Estos anuncios, creados por la organización sin fines de lucro conservadora Citizens for Sanity, representaron a Talarico en escenarios que parecen auténticos pero son completamente fabricados. Entre ellos, un anuncio mostró a Talarico vistiendo un vestido y cantando una versión modificada de "My Favorite Things" de The Sound of Music , con letras que se burlan de las políticas relacionadas con los derechos de los transgéneros.

Otro anuncio retrató a Talarico como un predicador desaliñado que declaraba que Jesucristo era un "feminista radical", mientras que un tercero sugirió que respaldaba la identidad no binaria, a pesar de que no había evidencia que respaldara tales afirmaciones.

El contenido generado por la IA fue parte de una tendencia más amplia en la publicidad política, con múltiples grupos en los Estados Unidos utilizando la tecnología para crear anuncios de ataque.

Los analistas políticos señalan que el uso de la IA en las campañas políticas es cada vez más común, impulsado por la facilidad con la que estas herramientas pueden generar contenido de aspecto realista. Adrian Shelley, director de Texas de Public Citizen, comentó que la IA permite a las campañas retratar a los oponentes de maneras que antes eran imposibles sin recursos sustanciales. Antes de la IA, la creación de imágenes engañosas requería una producción extensa, mientras que hoy en día, incluso se pueden lograr distorsiones menores con relativa simplicidad. Este cambio genera preocupaciones sobre la integridad del discurso político, ya que los votantes luchan por distinguir entre declaraciones genuinas y las construidas artificialmente.

Texas ha intentado regular el uso de la IA en la publicidad política al prohibir las falsificaciones profundas 30 días antes de una elección, clasificando las violaciones como un delito menor de Clase A. Sin embargo, la efectividad de esta ley es cuestionable, dado que muchos de los anuncios generados por la IA ya circulaban mucho antes de que la prohibición entrara en vigor. Zelly Martin, profesora asistente de comunicación en la Universidad de Tampa, señaló que para cuando los votantes se encuentren con estos materiales, el daño ya puede estar hecho, ya que la desinformación a menudo se propaga rápidamente y es difícil rastrear su origen.

Los anuncios de inteligencia artificial también tienden a amplificar las narrativas existentes en lugar de fabricar otras completamente nuevas. Por ejemplo, un anuncio destacó una declaración real que Talarico hizo sobre la frontera sur, pero omitió un contexto crucial. Talarico había descrito previamente la frontera como "una colchoneta de bienvenida gigante en el frente y una cerradura en la puerta", una metáfora que enfatiza la seguridad junto con la apertura. Los críticos, incluido el oponente republicano de Talarico, Ken Paxton, han citado con frecuencia la declaración sin mencionar la parte de "cerradura en la puerta", distorsionando así su significado.

Del mismo modo, otro anuncio se centró en una discusión política real que involucra a los jóvenes transgénero, pero lo presentó de una manera que podría interpretarse como respaldar puntos de vista controvertidos.

Esta manipulación de declaraciones reales subraya la cuestión más amplia de cómo se puede usar la IA para engañar a las audiencias presentando información selectivamente. A medida que el uso de la IA en campañas políticas continúa expandiéndose, hay una creciente presión sobre los legisladores para establecer regulaciones más claras. Los demócratas, en particular, están presionando por una mayor transparencia, abogando por divulgaciones obligatorias cuando la IA se emplea en materiales de campaña. La creciente prevalencia del contenido generado por la IA sugiere que el panorama de la publicidad política está experimentando una transformación fundamental, que desafía las nociones tradicionales de verdad y responsabilidad en los procesos democráticos.