ST erklärt: Können Kunden die Verwendung ihrer persönlichen Daten für KI-Training ablehnen?

Singapur hat neue Vorschriften eingeführt, die Unternehmen verpflichten, Verbraucher zu informieren, wenn sie personenbezogene Daten zur Schulung von KI-Modellen verwenden. Diese Regeln gelten für eine Reihe von Branchen, einschließlich Banken, Versicherungen, E-Commerce-Plattformen und Social-Media-Unternehmen. Die Richtlinien zielen darauf ab, Transparenz zu gewährleisten und gleichzeitig Organisationen Flexibilität bei der Umsetzung von KI-Technologien zu ermöglichen. Die Verordnung gilt insbesondere, wenn personenbezogene Daten für KI-Schulungen verwendet werden. Organisationen müssen Kunden benachrichtigen, wenn sie beabsichtigen, ihre Daten auf diese Weise zu verwenden. Es gibt jedoch Ausnahmen.

Wenn beispielsweise anonymisierte Datensätze anstelle von rohen personenbezogenen Daten verwendet werden, sind Benachrichtigungen nicht erforderlich. Darüber hinaus können bestimmte Sektoren je nach Art ihrer Operationen und Art der verarbeiteten Daten ausgenommen sein. Im Bankensektor können Institute KI-Assistenten einsetzen, um finanzielle Beratung anzubieten, z. B. Kunden bei der Planung von Budgets oder der Auswahl geeigneter Kreditkarten zu helfen. Diese Systeme basieren auf Daten wie Alter, Einkommen, Ausgabengewohnheiten und Reisehäufigkeit. Banken sind verpflichtet, Kunden über die Verwendung ihrer Daten für KI-Schulungen zu informieren, obwohl sie nicht verpflichtet sind, Opt-Out-Optionen bereitzustellen. Benachrichtigungen können auf Websites oder über mobile Pop-ups erscheinen.

Wenn das KI-System jedoch anonymisierte Daten verwendet, ist keine Benachrichtigung erforderlich. Versicherungsunternehmen stehen ähnlichen Anforderungen gegenüber. Sie können KI-Assistenten einsetzen, um bei medizinischen Versicherungsansprüchen zu helfen, diagnostische Berichte, Rezepte und medizinische Aufzeichnungen zu überprüfen. Die KI berücksichtigt auch Fotos oder Videos im Zusammenhang mit Ansprüchen, um genauere Anleitungen zu geben. Wie Banken müssen Versicherer Kunden über die Verwendung ihrer Daten für KI-Schulungen informieren, aber wiederum sind sie nicht verpflichtet, Opt-outs anzubieten. Die Kommission für den Schutz personenbezogener Daten (PDPC) stellte klar, dass Organisationen nicht die Zustimmung zur KI-Schulung als Voraussetzung für den Zugang zu Diensten verlangen können, es sei denn, dies ist unbedingt erforderlich.

E-Commerce-Plattformen, die zuvor Kundenkaufgeschichten und Browserverhalten zur Erstellung von Empfehlungen verwendeten, stehen nun vor zusätzlichen Verpflichtungen. Wenn sie sich entscheiden, diese Daten zum Trainieren eines KI-Modells zu verwenden, das als kommerzielles Produkt verkauft werden soll, müssen sie eine separate Benachrichtigung ausstellen. Auch wenn Benutzer bereits über die Datenverwendung für Empfehlungen informiert wurden, erfordert der neue Zweck, eine KI für externe Lizenzen zu trainieren, eine separate Offenlegung. Social-Media-Plattformen, die Nutzergenerierte Inhalte wie Posts, Fotos und Videos verwenden möchten, um KI-Tools für die Erstellung von Inhalten zu verbessern, müssen die Benutzer ebenfalls benachrichtigen.

Dies beinhaltet Funktionen wie Beschriftungsvorschläge, Bildverbesserung und Videobearbeitung. Plattformen können ihre Datenschutzrichtlinien aktualisieren, um Aussagen zu enthalten, die erklären, dass von Benutzern eingereichter Inhalt für KI-Training und Modellveredelung verwendet werden kann. Solche Offenlegungen zielen darauf ab, zu klären, wie KI-Fähigkeiten die Benutzererfahrung verbessern und gleichzeitig die Transparenz gewährleisten. Rechtsexperten wie Toh Ming Min von der BR Law Corporation haben festgestellt, dass die entscheidende Überlegung darin liegt, zu bestimmen, ob die Verwendung personenbezogener Daten für KI-Training für die Bereitstellung des Dienstes unerlässlich ist.

Der Schwerpunkt liegt weiterhin darauf, Innovation mit ethischem Umgang mit Daten in Einklang zu bringen und sicherzustellen, dass die Verbraucher vollständig darüber informiert sind, wie ihre Informationen in der sich entwickelnden Landschaft der KI-Technologie genutzt werden.