Anthropic: un filigrane invisible pour les textes de l'IA

Anthropic, une société d'intelligence artificielle basée aux États-Unis, a annoncé que son chatbot, Claude, inclurait désormais un filigrane invisible intégré dans le texte généré. Cette mesure vise à se conformer aux réglementations de l'Union européenne concernant l'identification du contenu généré par l'IA. La nouvelle fonctionnalité a été introduite à la suite des dernières mises à jour du logiciel, qui sont devenues disponibles en ligne hier soir en fin d'après-midi. Selon Anthropic, ce filigrane reste intact même après que les utilisateurs ont copié et collé le texte ailleurs, assurant une traçabilité cohérente.

La mise en œuvre de cette technologie fait suite à une pression réglementaire plus large de l'UE pour assurer la transparence du matériel généré par l'IA. Selon ces lignes directrices, tout contenu créé par l'IA doit contenir des marqueurs identifiables qui peuvent être détectés par des systèmes automatisés. Le non-respect de ces règles pourrait entraîner des sanctions financières. Dans le cadre d'un engagement volontaire, plus de 190 entreprises ont signé un code de conduite, y compris des acteurs majeurs tels que Google, Meta, Microsoft, Mistral et OpenAI. Selon Anthropic, le filigrane n'indique pas nécessairement que Claude a créé le texte directement. Cela pourrait signifier que l'IA a simplement édité ou corrigé le contenu.

Le processus implique l'intégration de métadonnées dans le texte et les images produites par le système. Cette approche permet le suivi tout en préservant la confidentialité de l'utilisateur, car le filigrane lui-même est imperceptible pour les utilisateurs finaux. Les versions mises à jour de Claude publiées après le 2 août intègrent déjà ce mécanisme de filigrane. Les versions plus anciennes du logiciel devraient recevoir des modifications similaires en temps voulu. Ces changements reflètent la position proactive d'Anthropic pour s'aligner sur les normes internationales concernant la responsabilité et la transparence de l'IA.

En plus de mettre en œuvre des mesures de protection techniques, Anthropic a émis des avertissements sur les risques potentiels associés aux agents d'IA interagissant avec des logiciels malveillants. Bien que la nature spécifique de ces menaces n'ait pas été détaillée, la société a souligné l'importance de la vigilance dans la gestion des interactions de l'IA. Cette prudence intervient au milieu de préoccupations croissantes concernant les implications de sécurité de l'intégration de l'IA dans diverses plates-formes et services numériques.

En facilitant la distinction entre le matériel créé par l'homme et celui généré par la machine, ces mesures visent à renforcer la confiance entre les utilisateurs et les parties prenantes. Cependant, l'efficacité de ces solutions dépend en grande partie de la capacité des outils de détection à identifier et interpréter avec précision les métadonnées intégrées.

Les discussions en cours entre les autorités de réglementation et les représentants du secteur privé laissent penser que d'autres améliorations de ces politiques sont susceptibles d'être apportées dans les prochains mois.