Anthropic a déployé des agents d'IA pour la même tâche.

Anthropic a dévoilé une nouvelle mesure de sécurité pour ses modèles d'IA Claude, introduisant des filigranes imperceptibles dans les sorties de texte et de fichiers. La mise à jour, effective avec les prochaines versions de modèles, vise à améliorer la transparence et à lutter contre l'utilisation abusive du contenu généré par l'IA. Selon la société, le filigrane est intégré dans le texte et persiste par le biais de la copie, du collage et de certains types d'édition. Ce développement s'aligne sur l'engagement d'Anthropic à se conformer à la loi sur l'IA de l'Union européenne, en particulier à l'article 50, qui exige que les systèmes d'IA divulguent leurs origines.

Bien que le filigrane soit conçu pour rester inaperçu par les utilisateurs finaux, il fournit une méthode de vérification de l'origine du contenu. Anthropic a souligné que le filigrane ne modifie pas le sens ou la lisibilité du texte, garantissant que l'expérience utilisateur reste inchangée.

Récemment, un agent de livres a retiré son soutien au roman policier Call Me, I'll Hide the Body en raison de doutes sur son auteur. Le livre, écrit par l'auteur nigérian Jerry Falade, avait attiré une attention significative et obtenu des contrats d'édition importants. Cependant, des questions ont émergé quant à savoir si le texte avait été généré par l'IA. Falade a nié avoir utilisé l'IA dans le processus d'écriture, affirmant que la controverse reflétait des préjugés plus larges contre les auteurs noirs. De même, Hachette Book Group a annulé la publication de Shy Girl, un roman d'horreur de Mia Ballard, après que des allégations ont fait surface selon lesquelles du contenu généré par l'IA avait été incorporé à son insu.

Ballard a précisé qu'un éditeur indépendant avait introduit des éléments d'IA, mais qu'elle-même n'avait pas utilisé l'IA pour l'écriture. Ces incidents mettent en évidence la tension croissante entre les attentes traditionnelles de l'auteur et l'intégration croissante de l'IA dans les processus créatifs.

De même, l'annonce récente d'Anthropic s'appuie sur cette tendance, offrant une solution adaptée aux exigences réglementaires de l'UE. Malgré ces progrès, des défis subsistent. Anthropic reconnaît que l'édition, la paraphrase ou la combinaison de contenu généré par l'IA avec des données humaines peuvent masquer le filigrane. De plus, la présence d'un filigrane n'établit pas définitivement que le contenu a été créé par l'IA, car même des interactions mineures avec l'IA, telles que la relecture ou la traduction, peuvent laisser des traces. Ces limitations soulignent la complexité de la mise en œuvre de mécanismes de détection robustes de l'IA.

Alors que l'industrie de l'édition continue de naviguer dans les implications éthiques et pratiques de l'IA, le rôle des filigranes devient de plus en plus important. Les éditeurs, les établissements d'enseignement et les chercheurs explorent comment ces marqueurs peuvent aider à identifier le contenu généré par l'IA et à maintenir des normes d'authenticité. Avec le déploiement de la fonctionnalité de filigranage d'Anthropic et d'initiatives similaires d'autres entreprises, le paysage de la transparence de l'IA évolue rapidement.

Alors que l'IA continue de pénétrer les domaines créatifs, l'équilibre entre l'innovation et la responsabilisation reste une préoccupation centrale.Les prochains mois fourniront davantage d'informations sur la façon dont ces mesures façonnent l'avenir de la création et de la vérification de contenu.