Etichette AI obbligatorie sui contenuti dall'aspetto autentico secondo le norme UE

Secondo diversi rapporti, i funzionari del presidente statunitense Donald Trump discuteranno dei test di sicurezza dell'intelligenza artificiale. Questa riunione si svolge in un momento di crescente preoccupazione per i potenziali rischi posti dalle tecnologie avanzate di intelligenza artificiale e per il modo in cui potrebbero essere regolamentate o testate per la sicurezza. Le discussioni dovrebbero concentrarsi sull'istituzione di protocolli per valutare l'affidabilità e le implicazioni etiche dei sistemi di intelligenza artificiale, in particolare quelli in grado di generare contenuti altamente realistici come immagini, audio e testo.

Nell'UE, nuove norme volte a frenare la diffusione di contenuti ingannevoli generati dall'IA sono entrate in vigore all'inizio di questo mese. Questi regolamenti richiedono che tutti i media sintetici, come deepfake, testo generato dall'IA e immagini manipolate, debbano essere chiaramente etichettati come artificiali. L'obiettivo è aumentare la trasparenza e aiutare gli utenti a distinguere tra contenuti reali e fabbricati, specialmente in contesti che coinvolgono figure pubbliche o argomenti politicamente sensibili. L'UE's AI Act impone alle aziende che operano all'interno del blocco di garantire che il materiale generato dall'IA sia contrassegnato con un'etichetta visibile e includa un filigrana digitale che ne indichi l'origine artificiale.

I testi che riguardano questioni di interesse pubblico devono essere etichettati anche se mancano di controllo editoriale umano. Mentre le regole non si applicano ai contenuti generati dagli utenti o alle creazioni artistiche, la mancata conformità potrebbe comportare sanzioni sostanziali, tra cui multe fino a 15 milioni di euro o il 3% del fatturato globale di un'azienda. I sostenitori dei nuovi regolamenti sostengono che sono essenziali per proteggere i processi democratici e garantire l'integrità delle informazioni condivise online. L'eurodeputato verde Sergey Lagodinsky, uno dei principali negoziatori dietro l'AI Act, ha sottolineato che queste misure sono fondamentali per preservare l'autenticità dei fatti e salvaguardare la fiducia del pubblico nelle comunicazioni digitali.

Tuttavia, alcuni rappresentanti del settore hanno espresso riserve sulla portata e l'attuazione delle regole. L'Associazione dell'industria dei computer e delle comunicazioni (CCIA) ha sollevato preoccupazioni sul fatto che le linee guida potrebbero essere troppo ampie, portando potenzialmente a un sovraccarico di etichette che potrebbero desensibilizzare gli utenti piuttosto che aumentare la consapevolezza. Secondo Boniface de Champris, responsabile della politica AI presso CCIA Europe, la distinzione tra contenuti ingannevoli e altre forme di materiale generato dall'IA è sfocata, con conseguente situazione in cui quasi tutto potrebbe finire per essere etichettato.

De Champris ha avvertito che l'impatto di questi cambiamenti sarà probabilmente sentito più acutamente in settori in cui l'uso dell'IA è diffuso ma meno riconosciuto dal pubblico in generale. Ha sottolineato settori come la pubblicità, il cinema e l'editoria, in cui gli strumenti di IA sono sempre più impiegati ma spesso passano inosservati dai consumatori. Di conseguenza, anticipa un aumento degli sforzi di etichettatura che potrebbero porre ulteriori oneri normativi sulle aziende non familiari con le sfumature della governance dell'IA. Nonostante queste sfide, le principali aziende tecnologiche hanno già implementato politiche interne per affrontare il problema dei contenuti generati dall'IA.

Ad esempio, TikTok ha stabilito requisiti per i creatori di etichettare immagini, audio e video generati dall'IA e afferma di aver assistito all'etichettatura di oltre tre miliardi di contenuti. Allo stesso modo, Google ha introdotto SynthID, uno strumento che consente agli utenti di verificare se il contenuto è stato generato dall'IA, nel 2023.

L'esito di questi colloqui potrebbe determinare come le tecnologie dell'IA saranno sviluppate, implementate e monitorate nei prossimi anni.