ST spiega: I clienti possono dire di no all'uso dei loro dati personali per la formazione dell'IA?

Singapore ha introdotto nuovi regolamenti che richiedono alle aziende di informare i consumatori quando utilizzano dati personali per addestrare modelli di intelligenza artificiale (IA). Queste regole si applicano a una serie di settori, tra cui banche, assicurazioni, piattaforme di e-commerce e società di social media. Le linee guida mirano a garantire la trasparenza consentendo alle organizzazioni flessibilità nel modo in cui implementano le tecnologie di IA. Il regolamento si applica specificamente quando i dati personali vengono utilizzati per la formazione AI. Le organizzazioni devono notificare i clienti se intendono utilizzare i loro dati in questo modo. Tuttavia, ci sono eccezioni.

Ad esempio, se vengono utilizzati set di dati anonimi invece di dati personali grezzi, le notifiche non sono necessarie. Inoltre, alcuni settori possono essere esentati a seconda della natura delle loro operazioni e del tipo di dati trattati. Nel settore bancario, le istituzioni possono implementare assistenti AI per offrire consulenza finanziaria, come aiutare i clienti a pianificare budget o scegliere carte di credito adeguate. Questi sistemi si basano su dati come età, reddito, abitudini di spesa e frequenza dei viaggi. Le banche sono tenute a informare i clienti sull'uso dei loro dati per la formazione AI, anche se non sono obbligate a fornire opzioni di opt-out. Le notifiche possono apparire su siti Web o tramite app pop-up per dispositivi mobili.

Se il sistema di IA utilizza dati anonimi, tuttavia, non è necessario alcun avviso. Le compagnie di assicurazione si trovano di fronte a requisiti simili. Possono utilizzare assistenti IA per assistere con i reclami di assicurazione medica, rivedere rapporti diagnostici, prescrizioni e cartelle cliniche. L'IA considera anche foto o video relativi ai reclami per fornire una guida più accurata. Come le banche, gli assicuratori devono notificare ai clienti l'uso dei loro dati per la formazione AI, ma ancora una volta, non sono tenuti a offrire opt-out. La Commissione per la protezione dei dati personali (PDPC) ha chiarito che le organizzazioni non possono richiedere il consenso per la formazione AI come prerequisito per accedere ai servizi a meno che non sia strettamente necessario.

Le piattaforme di e-commerce, che in precedenza utilizzavano le cronologie di acquisto dei clienti e i comportamenti di navigazione per formulare raccomandazioni, ora devono affrontare ulteriori obblighi. Se decidono di utilizzare questi dati per addestrare un modello di IA destinato alla vendita come prodotto commerciale, devono emettere una notifica separata. Anche se gli utenti erano già stati informati sull'utilizzo dei dati per le raccomandazioni, il nuovo scopo, la formazione di un'IA per la licenza esterna, richiede una divulgazione distinta. Le piattaforme di social media che pianificano di utilizzare contenuti generati dagli utenti, come post, foto e video, per migliorare gli strumenti di IA per la creazione di contenuti devono anche notificare gli utenti.

Le piattaforme possono aggiornare le loro politiche sulla privacy per includere dichiarazioni che spiegano che i contenuti inviati dagli utenti possono essere utilizzati per la formazione dell'IA e il perfezionamento dei modelli. Tali divulgazioni mirano a chiarire come le capacità dell'IA migliorano le esperienze degli utenti mantenendo la trasparenza.

Tuttavia, l'esigenza di una comunicazione chiara rimane fondamentale per garantire la fiducia dei consumatori e il rispetto delle aspettative normative. Man mano che queste norme entreranno in vigore, le organizzazioni di vari settori dovranno rivedere le loro pratiche in materia di dati e adeguare di conseguenza le loro strategie di notifica. L'attenzione rimane focalizzata sull'equilibrio tra innovazione e gestione etica dei dati, garantendo che i consumatori siano pienamente consapevoli di come le loro informazioni vengono utilizzate nel panorama in evoluzione della tecnologia dell'IA.