Les publicités d'IA ont faussé les mots et les positions de Talarico.

L'augmentation récente des publicités politiques générées par l'IA a suscité un débat important sur les limites éthiques des messages de campagne. Le candidat au Sénat américain James Talarico, dont les mots et les positions ont apparemment été modifiés par l'intelligence artificielle. Ces publicités, créées par l'organisation à but non lucratif conservatrice Citizens for Sanity, décrivaient Talarico dans des scénarios qui semblent authentiques mais sont entièrement fabriqués. Parmi celles-ci, une publicité montrait Talarico portant une robe et chantant une version modifiée de "My Favorite Things" de The Sound of Music, avec des paroles qui se moquent des politiques liées aux droits des transgenres.

Une autre publicité dépeint Talarico comme un prédicateur débraillé déclarant que Jésus-Christ était un "féministe radical", tandis qu'une troisième suggère qu'il approuve l'identité non binaire, malgré l'absence de preuves à l'appui de telles affirmations.

Le contenu généré par l'IA faisait partie d'une tendance plus large dans la publicité politique, avec plusieurs groupes à travers les États-Unis utilisant la technologie pour créer des publicités d'attaque.

Les analystes politiques notent que l'utilisation de l'IA dans les campagnes politiques devient de plus en plus courante, motivée par la facilité avec laquelle ces outils peuvent générer un contenu réaliste. Adrian Shelley, directeur de Public Citizen au Texas, a fait remarquer que l'IA permet aux campagnes de dépeindre les opposants d'une manière qui était auparavant impossible sans des ressources substantielles. Avant l'IA, la création de visuels trompeurs nécessitait une production étendue, alors qu'aujourd'hui, même des distorsions mineures peuvent être réalisées avec une simplicité relative.

Le Texas a tenté de réglementer l'utilisation de l'IA dans la publicité politique en interdisant les deepfakes 30 jours avant une élection, classant les violations comme un délit de classe A. Cependant, l'efficacité de cette loi est discutable, étant donné que de nombreuses publicités générées par l'IA circulaient déjà bien avant l'entrée en vigueur de l'interdiction.

Les publicités d'IA ont également tendance à amplifier les récits existants plutôt que de fabriquer des récits entièrement nouveaux. Par exemple, une publicité mettait en évidence une déclaration réelle faite par Talarico sur la frontière sud, mais omettait un contexte crucial. Talarico avait précédemment décrit la frontière comme ayant "un tapis de bienvenue géant à l'avant et une serrure sur la porte", une métaphore soulignant la sécurité parallèlement à l'ouverture. Les critiques, y compris l'opposant républicain de Talarico, Ken Paxton, ont fréquemment cité la déclaration sans mentionner la partie "serrure sur la porte", déformant ainsi son sens.

De même, une autre publicité s'est concentrée sur une véritable discussion politique impliquant des jeunes transgenres, mais l'a présentée d'une manière qui pourrait être interprétée comme soutenant des points de vue controversés.

Cette manipulation des déclarations réelles souligne la question plus large de la manière dont l'IA peut être utilisée pour tromper le public en présentant des informations de manière sélective. Alors que l'utilisation de l'IA dans les campagnes politiques continue de s'étendre, les législateurs subissent une pression croissante pour établir des réglementations plus claires. Les démocrates, en particulier, font pression pour une plus grande transparence, préconisant des divulgations obligatoires lorsque l'IA est utilisée dans le matériel de campagne.