Zakaj bi nas morala skrbeti AI na volitvah

Svetovni vrh, ki so ga Združeni narodi sklicali prejšnji mesec v Ženevi, je združil predstavnike vseh 193 držav članic, da bi obravnavali naraščajočo potrebo po mednarodnih smernicah za umetno inteligenco. Kljub široko obseg razprav, ki zajemajo teme, kot so varnost, zanesljivost in družbene posledice umetne inteligence, je vprašanje vpliva umetne inteligence na demokratične procese, zlasti na volitve, prejel minimalno pozornost. Strokovnjaki opozarjajo, da bi ta nadzor lahko oslabil prizadevanja za učinkovito regulacijo umetne inteligence na drugih področjih, vključno z etičnimi premisleki in zaščito človekovih pravic.

Dialog, znan kot uvodni globalni dialog o upravljanju AI, je bil namenjen vzpostavitvi okvira za upravljanje hitrega razvoja AI. Vendar pa je odsotnost podrobne razprave o vlogi AI na volitvah vzbudila zaskrbljenost med učenjaki in oblikovalci politik. Neodvisni mednarodni znanstveni panel o AI se je dotaknil potenciala AI za širjenje dezinformacij s pomočjo deepfake tehnologije, v veliki meri pa je prezrl širše sistemska tveganja, ki jih predstavlja integracija AI v mehanizme, ki podpirajo demokratično udeležbo. V zadnjih letih je integracija AI v volilne sisteme postala vse pogostejša.

Podatkovne zbirke za registracijo volivcev, orodja za biometrično identifikacijo in programska oprema za upravljanje volilnih rezultatov se zdaj močno zanašajo na algoritme umetne inteligence. Ti sistemi pogosto razvijajo in vzdržujejo zasebna podjetja, ki delujejo zunaj neposrednega nadzora nacionalnih volilnih komisij.

Cilj pobude je bil identificirati in odstraniti podvojene ali umrle volivce iz volilnega seznama. Vendar pa se je postopek zanašal na algoritem strojnega učenja, ki ga upravlja Indijski organ za edinstveno identifikacijo, ki deluje pod izvršilnim nadzorom in ne kot neodvisna oseba.

Čeprav je indijsko vrhovno sodišče posredovalo in ustavilo program, so podobne pobude ponovno uvedle po vsej državi, kar je povzročilo strah pred zanesljivostjo in pravičnostjo volilne uprave, ki jo vodi AI.

Vse večja odvisnost od AI-powered chatbotov za izobraževanje volivcev še dodatno otežuje zadeve. Platforme, kot sta ChatGPT od OpenAI in Gemini od Googla, zagotavljajo informacije volivcem pred volitvami. Vendar pa ti sistemi lahko ustvarijo zavajajoče vsebine ali povečajo obstoječe pristranskosti, zlasti na območjih z omejenim dostopom do interneta ali jezikovno raznolikostjo.

Ker umetna inteligenca še naprej prežema volilne sisteme po vsem svetu, izziv ne leži le v reševanju posameznih tehnoloških napak, temveč tudi v zagotavljanju, da strukture, ki urejajo volitve, ostanejo pregledne, odgovorne in odporne na manipulacije. Pomanjkanje celovitih mednarodnih standardov za upravljanje umetne inteligence na volitvah poudarja nujnost razvoja trdnih okvirov, ki varujejo demokratične procese pred namernimi posegi in nenamernimi posledicami tehnološkega napredka.