AEUn estudio realizado por investigadores de la Universidad Carnegie Mellon ha planteado preocupaciones sobre la confiabilidad de los chatbots de IA para el autodiagnóstico. La investigación probó modelos de lenguaje grandes como GPT-5, Gemini y Claude presentándoles consultas médicas que carecían de datos visuales esenciales, como imágenes de lunares de la piel o radiografías de tórax. En el 18% de los casos, estos modelos fabricaron diagnósticos basados en factores como la edad, el género y la raza, lo que llevó a conclusiones potencialmente engañosas. Por ejemplo, un hombre blanco de 65 años que consultaba un lunar de la piel fue diagnosticado con melanoma en casi todas las respuestas, la probabilidad de este resultado es extremadamente baja. Del mismo modo, GPT-5 frecuentemente diagnosticó erróneamente a pacientes jóvenes negros con sarcoidosis cuando se les presentaron preguntas de radiografías de tórax. Estos hallazgos destacan fallas significativas en la capacidad de la IA para interpretar con precisión los datos médicos y resalta los riesgos de confiar en la interpretación de AI para las decisiones críticas de salud. El autor del estudio enfatiza que las respuestas pueden verse fuertadas por cambios sutiles en el terreno, mientras que las respuestas faciales pueden verse fuertadas en gran medida por la IA.
Lectura del sesgo (Centro): El artículo presenta un análisis equilibrado de las limitaciones técnicas de la IA en el diagnóstico médico sin apoyar ni criticar abiertamente ideologías políticas específicas.
