AEUno studio condotto da ricercatori della Carnegie Mellon University ha sollevato preoccupazioni sull'affidabilità dei chatbot AI per l'autodiagnosi. La ricerca ha testato modelli linguistici di grandi dimensioni come GPT-5, Gemini e Claude presentandoli con query mediche che mancavano di dati visivi essenziali, come immagini di talpe cutanee o raggi X al torace. Nel 18% dei casi, questi modelli hanno fabbricato diagnosi basate su fattori come età, sesso e razza, portando a conclusioni potenzialmente fuorvianti. Ad esempio, a un uomo bianco di 65 anni che interrogava una talpa cutanea è stato diagnosticato un melanoma in quasi tutte le risposte, la probabilità di questo risultato è estremamente bassa. Allo stesso modo, GPT-5 ha spesso diagnosticato erroneamente giovani pazienti neri con sarcoidosi quando è stato presentato con domande di raggi X al torace. Questi risultati evidenziano significative carenze nella capacità dell'IA di interpretare accuratamente i dati medici e sottolineano i rischi di affidarsi alle decisioni critiche per la salute dell'IA.
Lettura del bias (Centro): L'articolo presenta un'analisi equilibrata dei limiti tecnici dell'IA nella diagnostica medica senza sostenere apertamente o criticare specifiche ideologie politiche.
