Novi zakoni EU-a uvode obavezne oznake za sadržaj umjetne inteligencije, ali bi mogli samo otežati otkrivanje deepfakea

Europska unija je uvela nove propise kojima se zahtijeva označavanje sadržaja generiranog umjetnom inteligencijom, s ciljem povećanja transparentnosti i borbe protiv dezinformacija. S učinkom od 2. kolovoza, članak 50 Zakona o umjetnoj inteligenciji EU-a nalaže da tvrtke koje primjenjuju sustave umjetne inteligencije moraju jasno označiti umjetnom inteligencijom stvorene ili izmijenjene medije koji izgledaju realistično. Ova se pravila primjenjuju na fotografije, video i audio dizajnirane da oponašaju elemente stvarnog svijeta, uključujući ljude, mjesta i događaje. Za razliku od drugih regija, poput Australije, koja preporučuje umjesto da zahtijeva označavanje, EU je to učinila zakonskom obvezom. Prema uredbi, sadržaj generiran umjetnom inteligencijom mora biti označen posebnim ikonama koje je razvila EU.

Za audio deepfakes, potrebno je kratko zvučno upozorenje na početku sadržaja. Vizualne oznake trebaju biti jasno vidljive kada se korisnici prvi put susreću s materijalom i ostati čitljive čak i kada se sadržaj dijeli ili preuzme.

Tvrtka planira integrirati strojno čitljive oznake u modele Claude chatbota koji su pokrenuti u EU-u nakon 2. kolovoza i radi na nadogradnji ranijih verzija. Uredba se proteže izvan granica EU-a, primjenjuje se na tvrtke izvan bloka koje proizvode AI sadržaj dostupan unutar EU-a. Nepoštovanje bi moglo rezultirati novčanim kaznama do 15 milijuna € ili 3% globalnog godišnjeg prihoda, ovisno o tome što je veće. Međutim, zakon ne obuhvaća pojedince koji stvaraju sadržaj za osobne ili neprofesionalne svrhe. Kao rezultat toga, određene vrste sadržaja koji stvaraju AI, kao što su oni koje stvaraju hobiisti ili povremeni korisnici, možda neće biti podvrgnute istom nadzoru.

Ova ograničenja naglašavaju izazov provođenja transparentnosti u svim oblicima upotrebe umjetne inteligencije. Stručnjaci upozoravaju da iako je namjera sustava označavanja poboljšati svijest javnosti, postoji zabrinutost da bi to moglo dovesti do nenamjernih posljedica.

Ovaj fenomen, poznat kao "boomerang efekt", ukazuje na to da intervencije usmjerene na povećanje transparentnosti mogu nenamjerno smanjiti sposobnost javnosti da kritički procjenjuje digitalne informacije. Ako se korisnici uvelike oslanjaju na oznake, oni mogu postati manje oprezni u ocjenjivanju neobjavljenog sadržaja, čime su podložniji manipulaciji od strane onih koji namjerno izbjegavaju označavanje svog rada. To dovodi u pitanje hoće li pristup EU-a doista osnažiti potrošače ili nenamjerno oslabiti njihovu obranu od dezinformacija. Unatoč tim zabrinutostima, regulatorni okvir EU-a predstavlja značajan pomak prema strožem nadzoru tehnologija umjetne inteligencije.

Postavljanjem jasnih standarda za označavanje i vodeni žig, zakonodavstvo ima za cilj uspostaviti osnovnu odgovornost među razvijačima umjetne inteligencije i pružateljima usluga. Efikasnost ovih mjera ovisit će o tome koliko su dobro provedene i koliko su učinkovito integrirane u korisničko iskustvo na različitim platformama.