CHUn video di Facebook della pop star austriaca Melissa Naschenweng presentava sottotitoli automatici generati dall'IA che trasformavano erroneamente la sua frase "I steh auf Bergbauernbuam" in "Ich steh auf die Nazis". La direzione dell'artista di 36 anni ha disattivato la funzione e sta indagando sull'errore. Problemi simili con l'AI che interpreta erroneamente il discorso sono stati documentati su YouTube e altre piattaforme. Gli esperti si riferiscono a questo fenomeno come "allucinazione di contenuti inappropriati", in cui i sistemi generano contenuti problematici che non erano originariamente parlati. Ciò si verifica perché l'IA non cerca semplicemente parole in un dizionario ma calcola possibili sequenze di parole in base ai suoni uditi, spesso portando a errori con dialetti, espressioni rare o canti. In un altro esempio, YouTube ha interpretato erroneamente il gallese come inglese, trasformando "wyrnuch" in "horny", mentre il sistema Amazon ha trasformato il nome in "Fluffy".
Lettura del bias (Centro): L'articolo discute problemi tecnici con i sistemi di trascrizione dell'IA e fornisce esempi dei loro fallimenti su diverse piattaforme.
