Zašto bi svi trebali biti zabrinuti za AI na izborima

Globalni samit koji su prošlog mjeseca u Ženevi sazvali Ujedinjeni narodi okupio je predstavnike svih 193 države članice kako bi se pozabavili rastućom potrebom za međunarodnim smjernicama o umjetnoj inteligenciji. Unatoč širokom obimu rasprava, koje su pokrivale teme poput sigurnosti, pouzdanosti i društvenih implikacija umjetne inteligencije, pitanje utjecaja umjetne inteligencije na demokratske procese, posebno na izbore, dobilo je minimalnu pozornost. Stručnjaci upozoravaju da bi ovaj nadzor mogao oslabiti napore za učinkovito reguliranje umjetne inteligencije u drugim područjima, uključujući etička razmatranja i zaštitu ljudskih prava.

Dijalog, poznat kao inauguracijski Globalni dijalog o upravljanju umjetnom inteligencijom, imao je za cilj uspostaviti okvir za upravljanje brzim evolucijom umjetne inteligencije. Međutim, odsustvo detaljne rasprave o ulozi umjetne inteligencije na izborima izazvalo je zabrinutost među znanstvenicima i kreatorima politika. Nezavisni međunarodni znanstveni panel o umjetnoj inteligenciji dotaknuo se potencijala umjetne inteligencije za širenje dezinformacija putem dubokih lažnih tehnologija, ali je uvelike zanemario šire sistemske rizike koje predstavlja integracija umjetne inteligencije u mehanizme koji podržavaju demokratsko sudjelovanje.

Baze podataka o registraciji birača, alati za biometrijsku identifikaciju i softver za upravljanje izbornim rezultatima sada se u velikoj mjeri oslanjaju na algoritme umjetne inteligencije. Ovi sustavi često razvijaju i održavaju privatne tvrtke koje djeluju izvan izravnog nadzora nacionalnih izbornih komisija. Ova promjena postavlja pitanja o transparentnosti, odgovornosti i potencijalnoj zlouporabi ili kvaru unutar kritične demokratske infrastrukture.

Inicijativa je imala za cilj identificirati i ukloniti duplicirane ili preminule birače s izbornog popisa. Međutim, proces se oslanjao na algoritam strojnog učenja koji upravlja Indijska jedinstvena identifikacijska uprava, koja djeluje pod izvršnom kontrolom, a ne kao neovisni subjekt.

Iako je Vrhovni sud Indije intervenirao i zaustavio program, slične inicijative od tada su ponovno uvedene širom zemlje, što je izazvalo strahove o pouzdanosti i pravednosti izborne administracije vođene AI-om.

Sve veća ovisnost o chatbotovima zasnovanim na umjetnoj inteligenciji za obrazovanje birača dodatno komplicira stvari. Platforme poput ChatGPT-a OpenAI-a i Gemini-a Google-a pružaju informacije biračima uoči izbora. Međutim, ovi sustavi mogu generirati obmanjujuće sadržaje ili pojačati postojeće pristranosti, osobito u područjima s ograničenim pristupom internetu ili jezičnom raznolikosti. Takva pitanja mogu neproporcionalno utjecati na marginalizirane zajednice, pogoršavajući postojeće nejednakosti u političkom angažmanu i zastupanju.

Budući da umjetna inteligencija nastavlja prodirati u izborne sustave na globalnom nivou, izazov ne leži samo u rješavanju pojedinačnih tehnoloških neuspjeha, već i u osiguravanju da strukture koje upravljaju izborima ostanu transparentne, odgovorne i otporne na manipulacije.