Les nouvelles lois de l'UE rendent les étiquettes du contenu de l'IA obligatoires mais pourraient seulement rendre plus difficile la détection des deepfakes

L'Union européenne a introduit de nouvelles réglementations exigeant que le contenu généré par l'IA soit étiqueté, dans le but d'améliorer la transparence et de lutter contre la désinformation. À compter du 2 août, l'article 50 de la loi sur l'IA de l'UE exige que les entreprises déployant des systèmes d'IA étiquettent clairement les médias créés ou modifiés par l'IA qui semblent réalistes.

Pour les deepfakes audio, un bref avertissement sonore est requis au début du contenu. Les étiquettes visuelles doivent être clairement visibles lorsque les utilisateurs rencontrent le matériel pour la première fois et rester lisibles même lorsque le contenu est partagé ou téléchargé. Bien que l'utilisation de ces icônes soit facultative, l'obligation de divulguer le contenu généré par l'IA reste obligatoire pour les entreprises opérant en vertu de la loi. En outre, les entreprises d'IA doivent intégrer des filigranes invisibles et lisibles par machine dans leurs résultats pour faciliter la détection. Les principaux laboratoires d'IA, tels que Anthropic, se sont engagés à soutenir ces mesures.

La société prévoit d'intégrer des marquages lisibles par machine dans ses modèles de chatbot Claude lancés dans l'UE après le 2 août et s'efforce de moderniser les versions antérieures. Le règlement s'étend au-delà des frontières de l'UE, s'appliquant aux entreprises hors du bloc qui produisent du contenu d'IA accessible au sein de l'UE. Le non-respect pourrait entraîner des amendes allant jusqu'à 15 millions d'euros ou 3% du chiffre d'affaires annuel global, selon le montant le plus élevé. Cependant, la loi ne couvre pas les personnes générant du contenu à des fins personnelles ou non professionnelles. En conséquence, certains types de contenu généré par l'IA, tels que ceux créés par des amateurs ou des utilisateurs occasionnels, peuvent ne pas faire l'objet du même examen.

Cette limitation met en évidence le défi de faire respecter la transparence dans toutes les formes d'utilisation de l'IA. Les experts avertissent que si l'intention derrière le système d'étiquetage est d'améliorer la sensibilisation du public, il y a des inquiétudes qu'il pourrait conduire à des conséquences imprévues. Les recherches indiquent que la capacité des gens à distinguer le vrai du faux contenu est souvent limitée, en particulier lorsqu'il s'agit de sorties d'IA très avancées. Il existe un risque que l'exposition fréquente au contenu d'IA étiqueté puisse amener les utilisateurs à supposer que le contenu non étiqueté est authentique, réduisant ainsi la vigilance globale contre la tromperie.

Ce phénomène, connu sous le nom d'"effet boomerang", suggère que les interventions visant à accroître la transparence pourraient par inadvertance réduire la capacité du grand public à évaluer l'information numérique de manière critique. Si les utilisateurs s'appuient fortement sur les étiquettes, ils peuvent devenir moins prudents dans l'évaluation du contenu non étiqueté, ce qui les rend plus vulnérables à la manipulation par ceux qui évitent intentionnellement d'étiqueter leur travail. Cela soulève des questions quant à savoir si l'approche de l'UE permettra vraiment aux consommateurs de s'émanciper ou affaiblira involontairement leurs défenses contre la désinformation. Malgré ces préoccupations, le cadre réglementaire de l'UE représente un changement significatif vers une surveillance plus stricte des technologies de l'IA.

En établissant des normes claires pour l'étiquetage et le filigrane, la législation vise à établir une base de référence pour la responsabilisation des développeurs et des fournisseurs de services d'IA. L'efficacité de ces mesures dépendra de leur mise en œuvre et de leur intégration efficace dans les expériences des utilisateurs sur toutes les plateformes. À l'avenir, le succès des exigences d'étiquetage de l'IA de l'UE dépendra probablement d'une surveillance et d'une adaptation continues. À mesure que la technologie de l'IA continue d'évoluer, les régulateurs devront peut-être affiner leurs stratégies pour relever les défis émergents. L'impact à long terme de ces règles sur le comportement des consommateurs et le paysage plus large de la confiance numérique reste à voir.