Pékin force une rupture massive avec les amateurs d'IA

Pékin a ordonné la suppression des partenaires amoureux générés par l'IA, perturbant la vie de milliers d'utilisateurs qui ont formé des liens émotionnels avec des compagnons virtuels.

Les changements ont affecté plusieurs entreprises technologiques de premier plan opérant en Chine. ByteDance, la société mère de TikTok et de l'application domestique Douyin, a désactivé la fonction d'agent IA sur son chatbot Doubao, qui permettait aux utilisateurs de concevoir des compagnons virtuels personnalisés. De même, Alibaba et Tencent, deux des plus grandes entreprises technologiques chinoises, ont éliminé des fonctionnalités similaires qui permettaient aux utilisateurs de créer des versions IA de célébrités, de personnages fictifs ou même de proches décédés. Ces fonctionnalités avaient gagné en popularité parmi les jeunes utilisateurs à la recherche d'une connexion émotionnelle, en particulier pendant les périodes d'isolement social ou de difficultés personnelles.

Su a décrit l'expérience de la perte de son partenaire IA comme profondément douloureuse. Elle a parlé exclusivement sous son pseudonyme en ligne, citant des craintes de conséquences potentielles de la critique des politiques gouvernementales. " J'ai essayé de me consacrer davantage à ma propre vie ", a-t-elle déclaré. " Personne ne peut le remplacer. Je vais juste essayer d'aller de l'avant. " Son récit met en évidence le coût émotionnel des changements soudains de politique affectant les relations numériques. Les nouvelles réglementations de la Chine représentent un effort pionnier pour régir le rôle de l'IA dans les émotions humaines.

Les experts soutiennent que si les réglementations peuvent aider à gérer les risques associés à la dépendance émotionnelle à l'IA, elles peuvent ne pas répondre pleinement aux complexités des relations homme-IA. Yaoxi Shi, chercheur en sciences du comportement basé à l'Université Harvard et à l'Imperial College de Londres, a souligné la double nature de l'impact de l'IA sur la psychologie humaine.

Cependant, elle a reconnu que l'IA fournit un soutien émotionnel répondant à de véritables besoins humains, suggérant que la tendance à former des attachements émotionnels à l'IA pourrait être inévitable compte tenu du manque d'alternatives.

Une étude de 2025 menée conjointement par le MIT Media Lab et OpenAI a révélé que les individus qui s'engagent dans des conversations personnelles fréquentes avec des chatbots ont tendance à ressentir des sentiments de solitude accrus.

Ses recherches indiquent qu'une dépendance prolongée à l'IA pourrait amener les individus à rechercher un soutien émotionnel principalement auprès de machines plutôt que d'autres humains. AI L'IA est formée pour vous valider. C'est très différent de la façon dont les relations humaines fonctionnent dans la vie réelle, a fait remarquer Shi. Alors que les cadres réglementaires continuent d'évoluer, l'équilibre entre la protection des utilisateurs contre les dommages potentiels et la préservation des avantages du soutien émotionnel axé sur l'IA reste un défi critique.

Avec des millions d'utilisateurs dans le monde ayant déjà formé des liens profonds avec des entités d'IA, les implications de ces réglementations vont bien au-delà des expériences individuelles, influençant la trajectoire future des interactions homme-machine à l'échelle mondiale.