ST explica: ¿Pueden los clientes decir que no al uso de sus datos personales para el entrenamiento de IA?

Singapur ha introducido nuevas regulaciones que requieren que las empresas informen a los consumidores cuando utilizan datos personales para entrenar modelos de inteligencia artificial (IA). Estas reglas se aplican a una variedad de industrias, incluidas las bancarias, los seguros, las plataformas de comercio electrónico y las compañías de redes sociales. Las pautas tienen como objetivo garantizar la transparencia al tiempo que permiten a las organizaciones flexibilidad en la forma en que implementan tecnologías de IA. La regulación se aplica específicamente cuando los datos personales se utilizan para la capacitación de IA. Las organizaciones deben notificar a los clientes si tienen la intención de usar sus datos de esta manera. Sin embargo, hay excepciones.

Por ejemplo, si se utilizan conjuntos de datos anónimos en lugar de datos personales en bruto, no se requieren notificaciones. Además, ciertos sectores pueden estar exentos dependiendo de la naturaleza de sus operaciones y el tipo de datos que se procesen. En el sector bancario, las instituciones pueden desplegar asistentes de IA para ofrecer asesoramiento financiero, como ayudar a los clientes a planificar presupuestos o elegir tarjetas de crédito adecuadas. Estos sistemas se basan en datos como la edad, los ingresos, los hábitos de gasto y la frecuencia de los viajes. Los bancos están obligados a informar a los clientes sobre el uso de sus datos para la capacitación en IA, aunque no están obligados a proporcionar opciones de exclusión voluntaria. Las notificaciones pueden aparecer en sitios web o a través de aplicaciones emergentes para dispositivos móviles.

Si el sistema de IA utiliza datos anónimos, sin embargo, no se necesita aviso. Las compañías de seguros enfrentan requisitos similares. Pueden utilizar asistentes de IA para ayudar con reclamos de seguros médicos, revisando informes de diagnóstico, recetas y registros médicos. La IA también considera fotos o videos relacionados con reclamos para proporcionar una guía más precisa. Al igual que los bancos, las aseguradoras deben notificar a los clientes sobre el uso de sus datos para la capacitación en IA, pero nuevamente, no están obligadas a ofrecer opciones de exclusión. La Comisión de Protección de Datos Personales (PDPC) aclaró que las organizaciones no pueden exigir el consentimiento para la capacitación en IA como un requisito previo para acceder a los servicios a menos que sea estrictamente necesario.

Las plataformas de comercio electrónico, que anteriormente utilizaban los historial de compras de los clientes y los comportamientos de navegación para hacer recomendaciones, ahora enfrentan obligaciones adicionales. Si deciden usar estos datos para entrenar un modelo de IA destinado a la venta como un producto comercial, deben emitir una notificación por separado. Incluso si los usuarios ya estaban informados sobre el uso de datos para recomendaciones, el nuevo propósito, entrenar una IA para licencias externas, requiere una divulgación distinta. Las plataformas de redes sociales que planean usar contenido generado por los usuarios, como publicaciones, fotos y videos, para mejorar las herramientas de IA para la creación de contenido también deben notificar a los usuarios.

Esto incluye características como sugerencias de subtítulos, mejora de imágenes y edición de video. Las plataformas pueden actualizar sus políticas de privacidad para incluir declaraciones que expliquen que el contenido enviado por el usuario puede usarse para la capacitación de IA y el refinamiento de modelos. Tales divulgaciones tienen como objetivo aclarar cómo las capacidades de IA mejoran las experiencias de los usuarios al tiempo que mantienen la transparencia. Expertos legales, como Toh Ming Min de BR Law Corporation, han señalado que la consideración clave radica en determinar si el uso de datos personales para la capacitación de IA es esencial para brindar el servicio. En los casos en que la disminución de la participación reduciría significativamente la utilidad del servicio, la necesidad del uso de datos se vuelve más clara.

No obstante, el requisito de una comunicación clara sigue siendo fundamental para garantizar la confianza de los consumidores y el cumplimiento de las expectativas regulatorias. A medida que estas reglas surtan efecto, las organizaciones de varios sectores deberán revisar sus prácticas de datos y ajustar sus estrategias de notificación en consecuencia. El enfoque sigue estando en equilibrar la innovación con el manejo ético de los datos, asegurando que los consumidores estén plenamente conscientes de cómo se utiliza su información en el panorama cambiante de la tecnología de IA.