CHUne vidéo sur Facebook de la pop star autrichienne Melissa Naschenweng présentait des sous-titres générés automatiquement par l'IA qui transformaient incorrectement sa phrase "I steh auf Bergbauernbuam" en "Ich steh auf die Nazis". La direction de l'artiste de 36 ans a désactivé la fonctionnalité et enquête sur l'erreur. Des problèmes similaires avec l'IA mal interprétant la parole ont été documentés sur YouTube et d'autres plates-formes. Les experts appellent ce phénomène "hallucination de contenu inapproprié", où les systèmes génèrent un contenu problématique qui n'a pas été parlé à l'origine. Cela se produit parce que l'IA ne cherche pas simplement des mots dans un dictionnaire mais calcule des séquences de mots possibles en fonction des sons entendus, ce qui conduit souvent à des erreurs avec les dialectes, les expressions rares ou le chant. Dans un autre exemple, YouTube a mal interprété l'anglais, transformant "wyrnuch" en "horny" tandis que le système Amazon a transformé le nom en "Fluffy".
Lecture du biais (Centre): L'article traite des problèmes techniques liés aux systèmes de transcription d'IA et fournit des exemples de leurs échecs sur différentes plates-formes. Il ne prend pas position sur une question politique, ni ne cadre la technologie d'une manière politiquement chargée. L'accent est purement mis sur la fonctionnalité et les limites de la technologie.
