Un chercheur a déclenché une controverse en fabriquant une maladie fictive appelée bixonimanija et en publiant deux preprints décrivant ses symptômes et son traitement. L'expérience visait à tester si les grands modèles de langage utilisés dans l'intelligence artificielle pouvaient distinguer le contenu scientifique factuel de la fiction. Les résultats ont révélé que certains systèmes d'IA incorporaient la maladie inventée dans leurs réponses, ce qui suscitait des inquiétudes quant à la fiabilité de ces outils dans les milieux académiques et professionnels.
Elle a publié deux articles de pré-impression détaillant la bixonimanija, qui décrivaient des symptômes et des traitements entièrement fabriqués. Ces documents n'ont pas été soumis à un examen par les pairs avant d'être partagés publiquement. L'expérience a été conçue pour imiter la recherche scientifique réelle, dans le but d'évaluer la capacité des systèmes d'IA à détecter des incohérences ou des inexactitudes dans le texte qu'ils analysent. Osmanovic Thunström n'a pas caché ses intentions derrière l'expérience. Une lecture superficielle des documents a immédiatement indiqué qu'il ne s'agissait pas d'œuvres scientifiques authentiques.
Cette inclusion délibérée d'un contributeur imaginaire a servi de marqueur clair que le travail n'était pas destiné à être pris au sérieux. L'expérience a attiré l'attention après que plusieurs grands modèles de langage ont commencé à incorporer la bixonimanija dans leurs conversations, la traitant comme s'il s'agissait d'une condition médicale légitime. Certains systèmes d'IA ont même suggéré des traitements potentiels basés sur les descriptions fabriquées. Ce résultat a mis en évidence la vulnérabilité des technologies d'IA actuelles à la désinformation, en particulier lorsqu'elles sont présentées dans un format qui ressemble à une littérature scientifique authentique. Les experts ont exprimé leur inquiétude quant aux implications de cette découverte.
Bien que les outils d'IA soient de plus en plus utilisés dans des domaines tels que la médecine, le droit et le milieu universitaire, leur capacité à distinguer la vérité de la fausseté reste limitée. L'incident souligne la nécessité d'un examen plus minutieux des informations que ces systèmes consomment et génèrent. Il soulève également des questions sur la responsabilité des chercheurs qui publient des preprints, en particulier lorsqu'ils contiennent des éléments qui pourraient être confondus avec une science crédible.
Les chercheurs et les scientifiques qui ont rencontré des références à bixonimanija dans des textes générés par l'IA ont été en mesure d'identifier l'anomalie grâce à des références croisées avec des bases de données médicales existantes.
Ses résultats suggèrent qu'il est urgent d'améliorer les mécanismes de sauvegarde et de vérification des plates-formes basées sur l'IA, en particulier celles utilisées dans des contextes scientifiques et cliniques.
Le cas de bixonimanija sert d'exemple d'avertissement des risques associés à une dépendance incontrôlée à l'IA dans des domaines où la désinformation peut avoir de graves conséquences.
1 articles
DeloIndépendant🔒CentreFactualité 90Objectivité 75avant-hierL'article traite d'une expérience menée par la chercheuse Almira Osmanovic Thunström, qui a inventé une maladie fictive appelée "bixonomanie" et publié deux pré-impressions décrivant ses symptômes et son traitement. Ces pré-impressions n'ont pas encore été examinées par des pairs. Les grands modèles de langage ont incorporé cette fausse maladie dans leurs conversations, soulignant comment les systèmes d'IA pourraient avoir du mal à distinguer entre les faits et la fiction. L'expérience visait à tester si les robots conversationnels utilisant l'intelligence artificielle pouvaient faire la différence entre de vraies découvertes scientifiques et des informations fabriquées. L'article note que le manque d'examen par les pairs et l'inclusion d'un chercheur fictif nommé "Lazljiv" ont clairement indiqué que ce n'était pas une véritable science.
Lecture du biais (Centre): L'article présente une expérience scientifique sans prendre position sur la question, et décrit objectivement la méthodologie et les résultats de la recherche sans favoriser aucun parti ni utiliser un langage partial.
Pourquoi factualité (90): The article accurately describes the experiment conducted by Almira Osmanovic Thunström, where she fabricated a fictional disease called 'bixonimanija' to test if AI chatbots can distinguish facts from fiction. It mentions that the fake research papers were not peer-reviewed and highlights the decep
Pourquoi objectivité (75): The tone is somewhat critical of the fake research but remains focused on reporting the experiment itself. However, there is some editorializing when the author refers to the content as 'predstavitvene vsebine' (fictional content) and implies that the fake research lacks scientific rigor, which intr
★
Gardons l’information honnête.
ObjectiveNews est financé par ses lecteurs et sans publicité : nous vous montrons le biais au lieu de le cacher. Soutenez un journalisme indépendant pour 5 €/mois.
Devenir soutien
Slovenia
