ST explique: Les clients peuvent-ils dire non à l'utilisation de leurs données personnelles pour la formation de l'IA?

Singapour a introduit de nouvelles réglementations exigeant des entreprises d'informer les consommateurs lorsqu'elles utilisent des données personnelles pour former des modèles d'intelligence artificielle (IA). Ces règles s'appliquent à une gamme d'industries, y compris les banques, les assurances, les plateformes de commerce électronique et les sociétés de médias sociaux. Les lignes directrices visent à assurer la transparence tout en permettant aux organisations de la flexibilité dans la façon dont elles mettent en œuvre les technologies d'IA. Le règlement s'applique spécifiquement lorsque des données personnelles sont utilisées pour la formation de l'IA. Les organisations doivent informer les clients si elles ont l'intention d'utiliser leurs données de cette manière. Cependant, il existe des exceptions.

Par exemple, si des ensembles de données anonymes sont utilisés au lieu de données personnelles brutes, les notifications ne sont pas nécessaires. De plus, certains secteurs peuvent être exemptés en fonction de la nature de leurs opérations et du type de données traitées. Dans le secteur bancaire, les institutions peuvent déployer des assistants IA pour offrir des conseils financiers, tels que aider les clients à planifier des budgets ou à choisir des cartes de crédit appropriées. Ces systèmes s'appuient sur des données telles que l'âge, le revenu, les habitudes de dépenses et la fréquence des déplacements. Les banques sont tenues d'informer les clients sur l'utilisation de leurs données pour la formation en IA, bien qu'elles ne soient pas obligées de fournir des options de désactivation. Les notifications peuvent apparaître sur des sites Web ou via des applications mobiles.

Si le système d'IA utilise des données anonymisées, cependant, aucun avis n'est nécessaire. Les compagnies d'assurance font face à des exigences similaires. Elles peuvent utiliser des assistants d'IA pour aider aux réclamations d'assurance médicale, examiner les rapports de diagnostic, les ordonnances et les dossiers médicaux. L'IA considère également les photos ou vidéos liées aux réclamations pour fournir des conseils plus précis. Comme les banques, les assureurs doivent informer les clients de l'utilisation de leurs données pour la formation en IA, mais encore une fois, ils ne sont pas tenus d'offrir des options de retrait. La Commission de protection des données personnelles (PDPC) a précisé que les organisations ne peuvent exiger le consentement à la formation en IA comme condition préalable pour accéder aux services, sauf si cela est strictement nécessaire.

Les plateformes de commerce électronique, qui utilisaient auparavant les antécédents d'achat des clients et les comportements de navigation pour faire des recommandations, sont désormais confrontées à des obligations supplémentaires. Si elles décident d'utiliser ces données pour former un modèle d'IA destiné à la vente en tant que produit commercial, elles doivent émettre une notification distincte. Même si les utilisateurs étaient déjà informés de l'utilisation des données pour les recommandations, le nouvel objectif, la formation d'une IA pour une licence externe, nécessite une divulgation distincte. Les plateformes de médias sociaux qui prévoient d'utiliser du contenu généré par les utilisateurs, tels que des publications, des photos et des vidéos, pour améliorer les outils d'IA pour la création de contenu doivent également informer les utilisateurs.

Les plateformes peuvent mettre à jour leurs politiques de confidentialité pour inclure des déclarations expliquant que le contenu soumis par les utilisateurs peut être utilisé pour la formation de l'IA et le raffinement des modèles. Ces divulgations visent à clarifier comment les capacités de l'IA améliorent l'expérience utilisateur tout en maintenant la transparence. Les experts juridiques, tels que Toh Ming Min de BR Law Corporation, ont noté que la considération clé réside dans la détermination de l'utilisation des données personnelles pour la formation de l'IA est essentielle à la prestation du service. Dans les cas où la diminution de la participation réduirait considérablement l'utilité du service, la nécessité de l'utilisation des données devient plus claire.

L'exigence d'une communication claire reste néanmoins essentielle pour garantir la confiance des consommateurs et le respect des attentes réglementaires. À mesure que ces règles prendront effet, les organisations de divers secteurs devront revoir leurs pratiques en matière de données et ajuster leurs stratégies de notification en conséquence. L'accent reste mis sur l'équilibre entre l'innovation et la gestion éthique des données, en veillant à ce que les consommateurs soient pleinement conscients de la manière dont leurs informations sont utilisées dans le paysage évolutif de la technologie de l'IA.