Perché dovremmo tutti preoccuparci dell'IA nelle elezioni

Un vertice globale convocato dalle Nazioni Unite il mese scorso a Ginevra ha riunito i rappresentanti di tutti i 193 Stati membri per affrontare la crescente necessità di linee guida internazionali sull'intelligenza artificiale. Nonostante l'ampia portata delle discussioni, che coprono argomenti come la sicurezza, l'affidabilità e le implicazioni sociali dell'IA, la questione dell'influenza dell'IA sui processi democratici, in particolare le elezioni, ha ricevuto un'attenzione minima. Gli esperti avvertono che questa supervisione potrebbe indebolire gli sforzi per regolamentare efficacemente l'IA in altri settori, comprese le considerazioni etiche e le protezioni dei diritti umani.

Il dialogo, noto come il primo dialogo globale sulla governance dell'IA, mirava a stabilire un quadro per la gestione della rapida evoluzione dell'IA. Tuttavia, l'assenza di una discussione dettagliata sul ruolo dell'IA nelle elezioni ha sollevato preoccupazioni tra studiosi e responsabili politici. Il gruppo scientifico internazionale indipendente sull'IA ha toccato il potenziale dell'IA di diffondere disinformazione attraverso la tecnologia deepfake, ha ampiamente trascurato i rischi sistemici più ampi posti dall'integrazione dell'IA nei meccanismi stessi che sostengono la partecipazione democratica.

I database di registrazione degli elettori, gli strumenti di identificazione biometrica e il software di gestione dei risultati elettorali ora si basano fortemente su algoritmi di intelligenza artificiale. Questi sistemi sono spesso sviluppati e mantenuti da società private che operano al di fuori della supervisione diretta delle commissioni elettorali nazionali. Questo cambiamento solleva domande sulla trasparenza, la responsabilità e il potenziale di uso improprio o malfunzionamento all'interno di infrastrutture democratiche critiche. L'India fornisce un esempio notevole di queste preoccupazioni.

L'iniziativa mirava a identificare e rimuovere gli elettori duplicati o deceduti dall'elenco elettorale. Tuttavia, il processo si basava su un algoritmo di apprendimento automatico gestito dall'Autorità di identificazione unica dell'India, che opera sotto il controllo esecutivo piuttosto che come entità indipendente.

Anche se la Corte Suprema dell'India è intervenuta e ha fermato il programma, iniziative simili sono state da allora reintrodotte in tutto il paese, sollevando timori sull'affidabilità e l'equità dell'amministrazione elettorale guidata dall'intelligenza artificiale. Oltre a casi specifici di errore algoritmico, c'è una preoccupazione più ampia per quanto riguarda la decentralizzazione del potere elettorale. In molte regioni di Africa, Asia e America Latina, le aziende private progettano, forniscono e ospitano tecnologie legate alle elezioni. Queste entità spesso operano al di fuori della giurisdizione degli organismi di regolamentazione nazionali, creando vulnerabilità relative alla sicurezza dei dati, agli audit dei sistemi e al rilevamento di pregiudizi o fallimenti algoritmici.

La crescente dipendenza da chatbot basati sull'intelligenza artificiale per l'educazione degli elettori complica ulteriormente le cose. Piattaforme come ChatGPT di OpenAI e Gemini di Google forniscono informazioni agli elettori prima delle elezioni. Tuttavia, questi sistemi possono generare contenuti fuorvianti o amplificare i pregiudizi esistenti, specialmente in aree con accesso limitato a Internet o diversità linguistica. Tali problemi possono colpire in modo sproporzionato le comunità emarginate, esacerbando le disuguaglianze esistenti nell'impegno politico e nella rappresentanza.

Poiché l'IA continua a permeare i sistemi elettorali a livello globale, la sfida consiste non solo nell'affrontare i singoli fallimenti tecnologici, ma anche nel garantire che le strutture che governano le elezioni rimangano trasparenti, responsabili e resistenti alla manipolazione. La mancanza di standard internazionali completi per la governance dell'IA nelle elezioni sottolinea l'urgenza di sviluppare quadri robusti che salvaguardino i processi democratici sia dalle interferenze intenzionali che dalle conseguenze non intenzionali del progresso tecnologico.