La Chine fait face à un défi croissant alors que des vidéos générées par l'intelligence artificielle diffusent de la désinformation lors de catastrophes naturelles, compliquant les interventions d'urgence et alimentant l'anxiété du public. Alors que le typhon Noul a touché le sol ce week-end, les autorités sont aux prises avec la menace de contenu produit par l'IA qui déforme la réalité et sape les efforts de gestion de la crise. Ces vidéos, qui présentent souvent des scènes de dévastation fabriquées, ont largement circulé sur les médias sociaux, suscitant des inquiétudes parmi les responsables et les experts.
De fausses vidéos montrant des cadavres flottant dans les eaux d'inondation, des représentations exagérées des inondations dans les régions non touchées et des récits trompeurs des efforts d'intervention d'urgence ont inondé les plateformes en ligne. Dans certains cas, ces vidéos ont conduit à l'achat de fournitures d'urgence en raison de fausses allégations de coupures d'électricité. D'autres cas impliquent la manipulation d'événements réels, tels que la libération de serpents d'une ferme d'élevage à Hengzhou, Guangxi, au début de juillet, en créant de fausses images de crocodiles s'échappant dans les rivières.
Selon Huang Zhihua, chef adjoint de l'unité de sécurité publique en ligne du département de police du Zhejiang, de nombreux créateurs de contenu exploitent les nouvelles de catastrophes pour attirer les abonnés, en tirant parti du sensationnalisme pour accroître l'engagement.
Des mesures d'application de la loi ont récemment visé les responsables de la production et de la distribution de tels contenus, avec des sanctions allant de la détention en attente d'accusations criminelles à des amendes financières. Malgré ces mesures, les experts avertissent que l'échelle et la vitesse de la désinformation induite par l'IA pourraient bientôt atteindre des niveaux sans précédent. Le professeur Chen Bin, de l'École centrale du Parti du Parti communiste, a souligné que l'IA réduit considérablement les obstacles techniques à la génération de fausses informations, permettant même aux non-experts de produire facilement des contenus réalistes de haute qualité. Cette capacité, a-t-il soutenu, constitue une menace sérieuse pour la sécurité et la confiance du public.
Selon le professeur Gao Fuping de l'Université des sciences politiques et du droit de Chine orientale, les motivations derrière la création de tels contenus varient. Certaines personnes s'engagent dans ces activités pour le plaisir, tandis que d'autres cherchent à générer du trafic pour un gain personnel ou à inciter intentionnellement la panique ou les troubles sociaux.
Pour lutter contre ce problème, le professeur Xu Xiaoke de l'Université normale de Pékin a suggéré que la vérification du contexte géographique et des horodatages du contenu généré par l'IA pourrait aider à distinguer les informations authentiques des fausses. Cependant, il a averti que les technologies de détection actuelles sont en retard par rapport aux capacités de génération d'IA, ce qui entraîne une lutte continue entre les deux.
Depuis 2017, quand il a déclaré l'IA comme un moteur clé du progrès national, un financement substantiel a coulé dans les industries liées à l'IA, favorisant une concurrence intérieure intense. Avec plus de 6000 entreprises d'IA opérant dans le pays, le gouvernement a donné la priorité à l'innovation et au contrôle, dans le but d'exploiter l'IA à la fois pour la croissance économique et l'avantage stratégique.
★
Gardons l’information honnête.
ObjectiveNews est financé par ses lecteurs et sans publicité : nous vous montrons le biais au lieu de le cacher. Soutenez un journalisme indépendant pour 4 €/mois.
Devenir soutien
United Kingdom
