Gli annunci di IA hanno distorto le parole e le posizioni di Talarico.

La recente ondata di pubblicità politica generata dall'intelligenza artificiale ha scatenato un dibattito significativo sui confini etici dei messaggi di campagna. Il candidato al Senato degli Stati Uniti James Talarico, le cui parole e posizioni sono state apparentemente alterate attraverso l'intelligenza artificiale. Questi annunci, creati dall'organizzazione non profit conservatrice Citizens for Sanity, raffiguravano Talarico in scenari che appaiono autentici ma sono interamente fabbricati. Tra questi, un annuncio mostrava Talarico indossare un vestito e cantare una versione modificata di "My Favorite Things" di The Sound of Music , con testi che deridono le politiche relative ai diritti dei transgender.

Un altro annuncio ritraeva Talarico come un predicatore disordinato che dichiarava che Gesù Cristo era un "femminista radicale", mentre un terzo suggeriva che sosteneva l'identità non binaria, nonostante nessuna prova a sostegno di tali affermazioni.

Il contenuto generato dall'intelligenza artificiale faceva parte di una tendenza più ampia nella pubblicità politica, con più gruppi negli Stati Uniti che utilizzavano la tecnologia per creare annunci di attacco.

Gli analisti politici notano che l'uso dell'IA nelle campagne politiche sta diventando sempre più comune, guidato dalla facilità con cui tali strumenti possono generare contenuti dall'aspetto realistico. Adrian Shelley, direttore di Public Citizen, ha osservato che l'IA consente alle campagne di ritrarre gli oppositori in modi che in precedenza erano impossibili senza risorse sostanziali. Prima dell'IA, la creazione di immagini ingannevoli richiedeva una produzione estesa, mentre oggi, anche lievi distorsioni possono essere ottenute con relativa semplicità. Questo cambiamento solleva preoccupazioni sull'integrità del discorso politico, poiché gli elettori lottano per distinguere tra dichiarazioni genuine e quelle costruite artificialmente.

Il Texas ha tentato di regolamentare l'uso dell'IA nella pubblicità politica vietando i deepfake 30 giorni prima di un'elezione, classificando le violazioni come un reato di classe A. Tuttavia, l'efficacia di questa legge è discutibile, dato che molti degli annunci generati dall'IA circolavano già ben prima che il divieto entrasse in vigore.

Gli annunci dell'IA tendono anche ad amplificare le narrazioni esistenti piuttosto che fabbricarne di nuove. Ad esempio, un annuncio ha evidenziato una dichiarazione reale fatta da Talarico sul confine meridionale, ma ha omesso un contesto cruciale. Talarico aveva precedentemente descritto il confine come avente un "gigante tappetino di benvenuto davanti e una serratura sulla porta", una metafora che enfatizza la sicurezza insieme all'apertura. I critici, tra cui l'avversario repubblicano di Talarico, Ken Paxton, hanno spesso citato la dichiarazione senza menzionare la parte "serratura sulla porta", distorcendo così il suo significato.

Allo stesso modo, un altro annuncio si è concentrato su una vera discussione politica che coinvolge i giovani transgender, ma lo ha presentato in un modo che potrebbe essere interpretato come l'approvazione di opinioni controverse.

Questa manipolazione di dichiarazioni reali sottolinea la questione più ampia di come l'IA possa essere utilizzata per fuorviare il pubblico presentando informazioni in modo selettivo. Man mano che l'uso dell'IA nelle campagne politiche continua ad espandersi, c'è una crescente pressione sui legislatori per stabilire regolamenti più chiari. I democratici, in particolare, stanno spingendo per una maggiore trasparenza, sostenendo la divulgazione obbligatoria quando l'IA è impiegata nei materiali di campagna. La crescente prevalenza di contenuti generati dall'IA suggerisce che il panorama della pubblicità politica sta subendo una trasformazione fondamentale, che sfida le nozioni tradizionali di verità e responsabilità nei processi democratici.