Les discussions devraient porter sur l'établissement de protocoles pour évaluer la fiabilité et les implications éthiques des systèmes d'IA, en particulier ceux capables de générer un contenu hautement réaliste tel que des images, de l'audio et du texte.
Dans l'UE, de nouvelles règles visant à freiner la propagation du contenu trompeur généré par l'IA sont entrées en vigueur au début du mois. Ces réglementations exigent que tous les médias synthétiques, tels que les deepfakes, le texte généré par l'IA et les images manipulées, doivent être clairement étiquetés comme artificiels. L'objectif est d'accroître la transparence et d'aider les utilisateurs à distinguer le contenu réel et fabriqué, en particulier dans des contextes impliquant des personnalités publiques ou des sujets politiquement sensibles. La loi sur l'IA de l'UE exige que les entreprises opérant dans le bloc doivent s'assurer que le matériel généré par l'IA est marqué d'une étiquette visible et comprend un filigrane numérique indiquant son origine artificielle.
Les textes concernant des questions d'intérêt public doivent être étiquetés même s'ils ne sont pas soumis à un contrôle éditorial humain. Bien que les règles ne s'appliquent pas aux contenus générés par les utilisateurs ou aux créations artistiques, leur non-respect pourrait entraîner des sanctions substantielles, y compris des amendes allant jusqu'à 15 millions d'euros ou 3% du chiffre d'affaires global d'une entreprise. Les partisans des nouveaux règlements soutiennent qu'ils sont essentiels pour protéger les processus démocratiques et assurer l'intégrité des informations partagées en ligne.
Cependant, certains représentants de l'industrie ont exprimé des réserves quant à la portée et à la mise en œuvre des règles. L'Association de l'industrie de l'informatique et des communications (CCIA) s'est inquiétée du fait que les lignes directrices pourraient être trop larges, ce qui pourrait entraîner une surcharge d'étiquettes qui pourraient désensibiliser les utilisateurs plutôt que d'améliorer la sensibilisation. Selon Boniface de Champris, responsable de la politique sur l'IA chez CCIA Europe, la distinction entre le contenu trompeur et d'autres formes de matériel généré par l'IA est floue, ce qui entraîne une situation où presque tout pourrait finir par être étiqueté.
De Champris a averti que l'impact de ces changements serait probablement ressenti plus fortement dans les industries où l'utilisation de l'IA est répandue mais moins reconnue par le grand public. Il a souligné des secteurs tels que la publicité, le cinéma et l'édition, où les outils d'IA sont de plus en plus utilisés mais souvent passent inaperçus aux consommateurs. En conséquence, il prévoit une poussée d'efforts d'étiquetage qui pourrait imposer des charges réglementaires supplémentaires aux entreprises peu familières avec les nuances de la gouvernance de l'IA. Malgré ces défis, les grandes entreprises technologiques ont déjà mis en œuvre des politiques internes pour résoudre le problème du contenu généré par l'IA.
Par exemple, TikTok a établi des exigences pour les créateurs d'étiqueter les images, l'audio et la vidéo générés par l'IA, et affirme avoir aidé à étiqueter plus de trois milliards de contenus. De même, Google a introduit SynthID, un outil permettant aux utilisateurs de vérifier si le contenu a été généré par l'IA, en 2023.
Le résultat de ces pourparlers pourrait déterminer la manière dont les technologies de l'IA seront développées, déployées et surveillées dans les années à venir.
★
Gardons l’information honnête.
ObjectiveNews est financé par ses lecteurs et sans publicité : nous vous montrons le biais au lieu de le cacher. Soutenez un journalisme indépendant pour 4 €/mois.
Devenir soutien
United Kingdom
