Nuove leggi dell'UE rendono obbligatorie le etichette dei contenuti dell'IA, ma potrebbero solo rendere più difficile individuare i deepfake

L'Unione europea ha introdotto nuovi regolamenti che richiedono l'etichettatura dei contenuti generati dall'IA, con l'obiettivo di migliorare la trasparenza e combattere la disinformazione. A partire dal 2 agosto, l'articolo 50 dell'EU AI Act impone alle aziende che implementano sistemi di IA di etichettare chiaramente i media creati o modificati dall'IA che appaiono realistici. Queste regole si applicano a foto, video e audio progettati per imitare elementi del mondo reale, comprese persone, luoghi ed eventi. A differenza di altre regioni, come l'Australia, che raccomanda piuttosto che richiedere l'etichettatura, l'UE ha reso questo un obbligo legale. Secondo il regolamento, i contenuti generati dall'IA devono essere contrassegnati con specifiche icone sviluppate dall'UE.

Per i deepfake audio, è necessario un breve avvertimento acustico all'inizio del contenuto. Le etichette visive dovrebbero essere chiaramente visibili quando gli utenti incontrano il materiale per la prima volta e rimanere leggibili anche quando il contenuto viene condiviso o scaricato. Mentre l'uso di queste icone è facoltativo, l'obbligo di divulgare i contenuti generati dall'IA rimane obbligatorio per le aziende che operano ai sensi della legge. Inoltre, le aziende di IA devono incorporare filigrane invisibili e leggibili da macchina nella loro produzione per facilitare il rilevamento. I principali laboratori di IA, come Anthropic, si sono impegnati a sostenere queste misure.

La società prevede di integrare marcature leggibili da macchina nei suoi modelli di chatbot Claude lanciati nell'UE dopo il 2 agosto e sta lavorando per aggiornare le versioni precedenti. Il regolamento si estende oltre i confini dell'UE, applicandosi alle società al di fuori del blocco che producono contenuti di IA accessibili all'interno dell'UE. La mancata conformità potrebbe comportare multe fino a 15 milioni di euro o il 3% del fatturato annuo globale, a seconda di quale sia più alto. Tuttavia, la legge non copre le persone che generano contenuti per scopi personali o non professionali. Di conseguenza, alcuni tipi di contenuti generati da IA, come quelli creati da appassionati o utenti occasionali, potrebbero non essere soggetti allo stesso controllo.

Questa limitazione evidenzia la sfida di far rispettare la trasparenza in tutte le forme di utilizzo dell'IA. Gli esperti avvertono che, sebbene l'intenzione dietro il sistema di etichettatura sia quella di migliorare la consapevolezza del pubblico, vi è la preoccupazione che potrebbe portare a conseguenze indesiderate. La ricerca indica che la capacità delle persone di discernere il contenuto reale dal falso è spesso limitata, specialmente quando si tratta di output AI altamente avanzati. C'è il rischio che l'esposizione frequente a contenuti di IA etichettati possa far supporre agli utenti che i contenuti non etichettati siano genuini, riducendo così la vigilanza generale contro l'inganno.

Questo fenomeno, noto come "effetto boomerang", suggerisce che gli interventi volti ad aumentare la trasparenza potrebbero inavvertitamente ridurre la capacità del pubblico di valutare criticamente le informazioni digitali. Se gli utenti si affidano fortemente alle etichette, possono diventare meno cauti nella valutazione dei contenuti non contrassegnati, rendendoli più suscettibili alla manipolazione da parte di coloro che evitano intenzionalmente di etichettare il loro lavoro. Ciò solleva domande sul fatto che l'approccio dell'UE possa davvero rafforzare i consumatori o indebolire involontariamente le loro difese contro la disinformazione. Nonostante queste preoccupazioni, il quadro normativo dell'UE rappresenta un cambiamento significativo verso una sorveglianza più rigorosa delle tecnologie dell'IA.

Stabilendo standard chiari per l'etichettatura e il marchio d'acqua, la legislazione mira a stabilire una linea di base per la responsabilità tra gli sviluppatori di IA e i fornitori di servizi. L'efficacia di queste misure dipenderà da quanto siano attuate e da quanto siano efficacemente integrate nelle esperienze degli utenti su tutte le piattaforme. In futuro, il successo dei requisiti di etichettatura dell'IA dell'UE dipenderà probabilmente dal monitoraggio e dall'adattamento continui. Man mano che la tecnologia dell'IA continua ad evolversi, i regolatori potrebbero aver bisogno di perfezionare le loro strategie per affrontare le sfide emergenti. L'impatto a lungo termine di queste regole sia sul comportamento dei consumatori che sul più ampio panorama della fiducia digitale resta da vedere.