ILIstraživači sa Sveučilišta Johns Hopkins i američke Uprave za hranu i lijekove (FDA) razvili su novi alat pod nazivom G-AUDIT za otkrivanje skrivenih pristranosti u medicinskim AI skupovima podataka. Medicinski AI sustavi, unatoč njihovom potencijalu za poboljšanje zdravstvene zaštite, pokazali su značajne praznine u performansama i implicitne pristranosti, često zbog nereprezentativnih podataka o obuci. Studija ističe primjere u kojima AI modeli pogrešno povezuju irelevantne značajke, kao što su oznake kliničara ili razlike u opremi za snimanje, s medicinskim stanjima, što dovodi do pristranosti predviđanja i potencijalnih zdravstvenih razlika. Za razliku od prethodnih pristupa koji se fokusiraju na prilagođavanje modela AI, G-AUDIT ima za cilj identificirati problematične obrasce u skupovima podataka prije početka obuke, pomažući spriječiti pogrešno ponašanje AI u stvarnim aplikacijama.
Procjena pristranosti (Sredina): Članak predstavlja tehničku raspravu o predrasudama medicinske umjetne inteligencije bez otvorenih ideoloških okvira.
