AEŠtudija, ki so jo izvedli raziskovalci na univerzi Carnegie Mellon, je vzbudila zaskrbljenost glede zanesljivosti AI klepetalnikov za samo-diagnozo. V raziskavi so testirali velike jezikovne modele, kot so GPT-5, Gemini in Claude, tako da so jim predstavili medicinske poizvedbe, ki jim manjkajo bistvenih vizualnih podatkov, kot so slike kožnih znamenj ali rentgenski posnetki prsnega koša. V 18% primerov so ti modeli izdelali diagnoze na podlagi dejavnikov, kot so starost, spol in rasa, kar je privedlo do potencialno zavajajočih sklepov. Na primer, 65-letnemu belcu, ki je poizvedel kožno znamenje, je bil diagnosticiran melanom v skoraj vseh odgovorih, zelo nizka verjetnost tega izida.
Ocena pristranskosti (Sredina): Članek predstavlja uravnoteženo analizo tehničnih omejitev umetne inteligence v medicinski diagnostiki, ne da bi odkrito podprl ali kritiziral določene politične ideologije.
