Un cheval devient une pomme de terre: comment une police de caractères trompe l'IA

Un nouveau projet open-source appelé ShieldFont a émergé en réponse à la pratique répandue des entreprises d'IA qui récupèrent du contenu textuel sur Internet pour former leurs modèles. L'initiative vise à rendre cette collecte de données plus difficile en modifiant le code sous-jacent des pages Web sans affecter la façon dont les lecteurs humains perçoivent le contenu. Cette méthode pourrait considérablement entraver la capacité des grattoirs automatisés à collecter des données de formation utilisables.

Cette manipulation garantit que les utilisateurs humains voient le texte inchangé, mais les grattoirs automatisés rencontrent une version déformée. La technique repose sur la substitution de mots avec des termes non apparentés de la même catégorie grammaticale, conduisant à des phrases syntaxiquement correctes mais sans signification sémantique. Par exemple, un cheval pourrait devenir une pomme de terre, ou un dirigeant du gouvernement pourrait se transformer en un gnomes de jardin. Ces changements perturbent le sens du texte, le rendant inutilisable à des fins de formation de l'IA. Les tests initiaux ont montré que cette approche peut empêcher plus de 90% des pages Web de passer les filtres de qualité utilisés par les grattoirs d'IA, les empêchant efficacement d'être inclus dans les ensembles de données de formation.

Cependant, la méthode n'est pas sans inconvénients. Les moteurs de recherche, les lecteurs d'écran pour les utilisateurs malvoyants, les fonctions de copie-collant et les outils de traduction peuvent également être affectés par le HTML modifié, réduisant potentiellement l'accessibilité et l'utilisabilité pour les utilisateurs légitimes.

Les créateurs de ShieldFont soutiennent que le système actuel permet aux développeurs d'IA d'accéder et d'utiliser librement le contenu créatif sans autorisation, ce qui porte atteinte aux droits des créateurs de contenu. Ils soulignent que le simple fait d'être en ligne ne signifie pas donner son consentement pour que son travail soit utilisé dans la formation de l'IA. Leur objectif est d'introduire des frictions dans le processus de collecte de données, ralentissant ainsi et augmentant les coûts associés aux opérations de grattage à grande échelle.

Certains considèrent ShieldFont comme une étape nécessaire vers un plus grand contrôle sur le contenu numérique, tandis que d'autres mettent en garde contre des conséquences potentielles non intentionnelles pour l'expérience utilisateur et l'accessibilité.