ILForscher der Johns Hopkins University und der US-amerikanischen Food and Drug Administration (FDA) haben ein neues Tool namens G-AUDIT entwickelt, um verborgene Bias in medizinischen KI-Datensätzen zu erkennen. Medizinische KI-Systeme haben trotz ihres Potenzials zur Verbesserung des Gesundheitswesens erhebliche Leistungslücken und implizite Bias gezeigt, oft aufgrund nicht repräsentativer Trainingsdaten. Die Studie hebt Beispiele hervor, bei denen KI-Modelle irrelevante Merkmale wie Klinikermarkierungen oder Abbildungsausrüstungsunterschiede falsch mit medizinischen Bedingungen in Verbindung bringen, was zu voreingenommenen Vorhersagen und potenziellen gesundheitlichen Unterschieden führt. Im Gegensatz zu früheren Ansätzen, die sich auf die Anpassung von KI-Modellen konzentrieren, zielt G-AUDIT darauf ab, problematische Muster in Datensätzen vor dem Training zu identifizieren und dabei zu helfen, fehlerhaftes KI-Verhalten in realen Anwendungen zu verhindern.
Tendenz-Einschätzung (Mitte): Der Artikel präsentiert eine technische Diskussion über medizinische KI-Voreingenommenheit ohne offensichtliche ideologische Rahmenbedingungen.
