AEUne étude menée par des chercheurs de l'Université Carnegie Mellon a suscité des inquiétudes quant à la fiabilité des chatbots d'IA pour l'autodiagnostic. La recherche a testé de grands modèles linguistiques comme GPT-5, Gemini et Claude en leur présentant des requêtes médicales qui manquaient de données visuelles essentielles, telles que des images de taupes cutanées ou de radiographies thoraciques. Dans 18% des cas, ces modèles ont fabriqué des diagnostics basés sur des facteurs tels que l'âge, le sexe et la race, conduisant à des conclusions potentiellement trompeuses. Par exemple, un homme blanc de 65 ans interrogant une taupe cutanée a été diagnostiqué avec un mélanome dans presque toutes les réponses, la probabilité extrêmement faible de ce résultat. De même, GPT-5 a fréquemment diagnostiqué de manière erronée de jeunes patients noirs atteints de sarcoïdose lorsqu'ils ont été présentés avec des questions de radiographie thoracique. Ces résultats mettent en évidence des lacunes significatives dans la capacité de l'IA à interpréter avec précision les données médicales et soulignent les risques d'AI pour les décisions critiques en matière de santé.
Lecture du biais (Centre): L'article présente une analyse équilibrée des limites techniques de l'IA dans le domaine du diagnostic médical sans approuver ou critiquer ouvertement des idéologies politiques spécifiques.
