Anthropic a annoncé qu'elle commencerait à intégrer des filigranes imperceptibles dans le texte et les fichiers générés par ses modèles d'IA, y compris Claude, pour se conformer à la loi sur l'IA de l'Union européenne. La société a confirmé la mise à jour de la politique dans un document de support modifié, indiquant que tous les modèles publiés après le 2 août incluront automatiquement des fonctionnalités de filigranage. Ces filigranes seront visibles pour les machines mais pas pour les lecteurs humains, permettant aux systèmes d'identifier le contenu généré par l'IA. La mesure vise à s'aligner sur le code de transparence de l'UE, qui oblige les développeurs d'IA à marquer le contenu créé ou modifié par l'IA de manière à pouvoir être reconnu par d'autres systèmes.
Le filigrane s'applique à la fois au texte et aux types de fichiers, ce dernier utilisant la norme ouverte C2PA. Pour le texte, le filigrane est intégré directement dans le contenu, en veillant à ce qu'il voyage avec le texte lorsqu'il est copié ou collé. Selon Anthropic, le filigrane peut rester détectable même après une certaine modification. Cependant, la société reconnaît que la réécriture étendue, le mélange avec d'autres contenus ou la traduction peuvent obscurcir la marque. La fonctionnalité sera disponible sur tous les produits Claude, y compris la plate-forme, l'API, le code, le cowork et les services de balises. La société travaille également à la retrofit de la technologie sur les anciens modèles, bien que l'étendue de ce support reste incertain.
Cette initiative fait suite à des efforts plus larges de l'industrie pour répondre aux préoccupations concernant le contenu généré par l'IA. Des entreprises telles que Suno, Substack et d'autres ont mis en œuvre des mesures similaires, souvent en réponse à des défis juridiques ou à la réaction du public. Par exemple, Substack s'est associé à Pangram pour signaler le contenu généré par l'IA, tandis que Suno a annoncé qu'il étiquetterait la musique produite par l'IA. La décision d'Anthropic reflète la pression croissante des régulateurs et des utilisateurs pour assurer la transparence des résultats de l'IA. La loi européenne sur l'IA exige que les systèmes d'IA divulguent leur nature, en particulier lors de la génération ou de la modification de contenu, et les mises à jour d'Anthropic sont destinées à répondre à cette exigence.
La mise en œuvre du filigrane soulève des questions complexes sur la confidentialité et l'utilisation abusive. Bien que la fonctionnalité soit destinée à aider à identifier le contenu généré par l'IA, elle pourrait également compliquer les efforts visant à protéger les données des utilisateurs.
L'introduction du filigrane souligne également le rôle croissant de l'IA dans les domaines créatifs et professionnels. Des cas impliquant l'écriture générée par l'IA ont suscité une controverse au sein de l'industrie de l'édition, avec des cas tels que le retrait du soutien à un livre soupçonné de contenir du contenu généré par l'IA. De même, les établissements d'enseignement ont commencé à développer des méthodes pour détecter l'utilisation de l'IA, comme l'intégration d'instructions cachées dans les invites à l'examen. Ces développements suggèrent que l'intégration de l'IA dans les tâches quotidiennes entraîne une réévaluation des limites éthiques et pratiques.
À l'approche de la date limite de mise en conformité avec la loi européenne sur l'IA, fixée au 2 décembre, d'autres grandes entreprises d'IA sont susceptibles de suivre. Google DeepMind, par exemple, a déjà introduit le filigrane pour le texte et la vidéo grâce à sa technologie SynthID. Avec de plus en plus d'entreprises adoptant des stratégies similaires, la capacité de distinguer le contenu généré par l'homme et l'IA devient de plus en plus normalisée. Cependant, l'efficacité de ces mesures dépend de l'amélioration continue et de l'adaptation aux technologies émergentes et aux comportements des utilisateurs. L'impact à long terme de ces politiques dépendra de la façon dont elles équilibrent la transparence, la responsabilité et la protection des intérêts des utilisateurs.
★
Gardons l’information honnête.
ObjectiveNews est financé par ses lecteurs et sans publicité : nous vous montrons le biais au lieu de le cacher. Soutenez un journalisme indépendant pour 4 €/mois.
Devenir soutien
United States
