Übermäßiges Vertrauen auf KI-Risiken "Entqualifizierung" des Personals im Gesundheitssektor, warnt Bericht

The Irish TimesUnabhängig🔒Mittevor 6 Std.

Die Health Information and Quality Authority (Hiqa) in Irland hat die ersten nationalen Leitlinien für den verantwortungsvollen Einsatz von künstlicher Intelligenz (KI) in Gesundheits- und Sozialdienstleistungen herausgegeben. Der Bericht hebt sowohl die Vorteile als auch die Risiken der KI-Integration hervor und erkennt ihr Potenzial zur Bewältigung von Herausforderungen wie steigenden Kosten, alternder Bevölkerung und chronischen Krankheiten an. Allerdings warnt er vor Risiken wie Unqualifizierung des Personals, Datenmissbrauch, Mangel an menschlicher Aufsicht und Abhängigkeit von nicht validierten KI-Tools. Die Leitlinien skizzieren vier Prinzipien Rechenschaftspflicht, auf Menschenrechten basierender Ansatz, Sicherheit und Wohlbefinden und Reaktionsfähigkeit und betonen, dass KI statt menschliches Urteilsvermögen erweitert werden sollte. Sie fordert einen transparenten Einsatz von KI, die Rückverfolgbarkeit ihrer Anwendung und robuste Governance-Strukturen, um sicherzustellen, dass die Pflege personenbezogen bleibt.

Tendenz-Einschätzung (Mitte): Der Bericht stellt einen ausgewogenen Überblick über die Rolle der KI im Gesundheitswesen dar und diskutiert sowohl ihre potenziellen Vorteile als auch ihre Risiken, ohne offen technologischen Fortschritt oder regulatorische Vorsicht zu bevorzugen.