Novi zakoni EU določajo obvezno označevanje vsebin z umetno inteligenco, vendar bi lahko le otežili prepoznavanje deepfakes

Evropska unija je uvedla nove predpise, ki zahtevajo označevanje vsebin, ustvarjenih z umetno inteligenco, s ciljem povečanja preglednosti in boja proti dezinformacijam. Z učinkom od 2. avgusta člen 50 zakona EU o umetni inteligenci določa, da morajo podjetja, ki uvajajo sisteme umetne inteligence, jasno označiti medije, ustvarjene ali spremenjene z umetno inteligenco, ki se zdijo realistični. Ta pravila veljajo za fotografije, videoposnetke in zvok, zasnovane tako, da posnemajo elemente iz resničnega sveta, vključno z ljudmi, kraji in dogodki. Za razliko od drugih regij, kot je Avstralija, ki priporoča in ne zahteva označevanja, je EU to zakonsko zavezala. V skladu z uredbo mora biti vsebina, ustvarjena z umetno inteligenco, označena s posebnimi ikonami, ki jih je razvila EU.

Za avdio deepfakes je na začetku vsebine potrebno kratko zvočno opozorilo. Vizualne oznake morajo biti jasno vidne, ko uporabniki prvič srečajo material, in ostati čitljive tudi, ko se vsebina deli ali prenese. Medtem ko je uporaba teh ikon neobvezna, zahteva po razkritju vsebine, ki jo ustvari AI, ostaja obvezna za podjetja, ki delujejo v skladu z zakonom. Poleg tega morajo podjetja AI v svoj izhod vključiti nevidne, strojno berljive vodne znake, da bi pomagala pri odkrivanju.

Podjetje načrtuje vključitev strojno berljivih oznak v modele Claude chatbotov, ki so bili uvedeni v EU po 2. avgustu, in dela na naknadni opremi starejših različic. Uredba se razteza preko meja EU in se uporablja za podjetja zunaj bloka, ki proizvajajo vsebino AI, dostopno v EU. Neskladnost bi lahko povzročila globe do 15 milijonov € ali 3% globalnega letnega prihodka, kar je višje. Vendar zakon ne zajema posameznikov, ki ustvarjajo vsebino za osebne ali neprofesionalne namene.

Ta omejitev poudarja izziv uveljavljanja preglednosti pri vseh oblikah uporabe umetne inteligence. Strokovnjaki opozarjajo, da je namen sistema označevanja izboljšanje ozaveščenosti javnosti, vendar obstaja zaskrbljenost, da bi lahko privedel do nenamernih posledic. Raziskave kažejo, da je sposobnost ljudi, da razlikujejo resnične od ponarejenih vsebin, pogosto omejena, še posebej pri obravnavi zelo naprednih izhodov umetne inteligence. Obstaja tveganje, da bi pogosta izpostavljenost označeno AI vsebini lahko povzročila, da bi uporabniki domnevali, da je neobjavljena vsebina pristna, s čimer bi zmanjšali splošno budnost pred zavajanjem.

Ta pojav, znan kot "boomerangov učinek", kaže, da bi lahko posegi, namenjeni povečanju preglednosti, nenamerno zmanjšali sposobnost splošne javnosti, da kritično oceni digitalne informacije. Če se uporabniki močno zanašajo na oznake, lahko postanejo manj previdni pri ocenjevanju neobdelane vsebine, zaradi česar postanejo bolj dovzetni za manipulacijo s strani tistih, ki namerno izognejo označevanju svojega dela. To vzbuja vprašanja o tem, ali bo pristop EU resnično okrepil potrošnike ali nenamerno oslabil njihovo obrambo pred dezinformacijami. Kljub tem pomislekom je regulativni okvir EU pomemben premik proti strožjemu nadzoru tehnologij umetne inteligence.

Z določitvijo jasnih standardov za označevanje in vodne oznake zakonodaja želi vzpostaviti osnovno raven odgovornosti med razvijalci umetne inteligence in ponudniki storitev. Učinkovitost teh ukrepov bo odvisna od tega, kako dobro se bodo izvajali in kako učinkovito bodo vključeni v uporabniške izkušnje na različnih platformah.