Meinung: STAT+: Krankenhäuser KI könnte abdriften. Wer beobachtet das?

Krankenhäuser in den Vereinigten Staaten verlassen sich zunehmend auf künstliche Intelligenz, um kritische Aufgaben wie das Erstellen von klinischen Notizen, die Erkennung von Sepsis, die Analyse medizinischer Bilder, die Verarbeitung vorheriger Genehmigungen und die Beantwortung von Patientenanfragen zu erledigen.

Dieser Ansatz kann bis zu sechs Monate in Anspruch nehmen, was Lücken bei der Gewährleistung der Sicherheit und Wirksamkeit der KI-gestützten Versorgung hinterlässt. Die Autoren des Artikels, Peter Pronovost, Chief Quality and Clinical Transformation Officer bei Universitätskliniken, und Kedar Mate und Justin Norden, Mitbegründer von Qualified Health, argumentieren, dass dieses langsame und fragmentierte Governance-Modell für die schnelle Entwicklung der KI-Technologie ungeeignet ist. Sie betonen, dass KI zwar spürbare Vorteile bei der Verbesserung der Effizienz und Genauigkeit gezeigt hat, aber bei ihrer Bereitstellung die strenge Aufsicht fehlt, die notwendig ist, um die Ergebnisse der Patienten zu gewährleisten.

Qualified Health, ein Unternehmen, das sich auf die Entwicklung von KI-Lösungen für das Gesundheitswesen konzentriert, hebt die Notwendigkeit robusterer Rahmenbedingungen für die Bewertung und Regulierung von KI-Tools hervor. Die Führungskräfte des Unternehmens betonen, dass die Führungskräfte, nicht nur die IT-Teams, die Verantwortung dafür übernehmen müssen, dass KI-Systeme hohen Standards an Zuverlässigkeit und Transparenz entsprechen. Dies beinhaltet die laufende Validierung von Algorithmen, die kontinuierliche Überwachung der Leistung und Mechanismen zur Behebung von Fehlern oder Verzerrungen, die im Laufe der Zeit auftreten können.

Das Problem erstreckt sich über einzelne Krankenhäuser hinaus. Da KI in klinischen Arbeitsabläufen immer häufiger vorkommt, wirft der Mangel an standardisierter Aufsicht Bedenken hinsichtlich Konsistenz und Rechenschaftspflicht auf. Einige Experten warnen davor, dass ohne eine angemessene Regulierung das Schadenspotenzial steigt, insbesondere in Bereichen, in denen KI-Entscheidungen direkt auf Diagnose und Behandlung wirken.

Dazu gehören spezielle Aufsichtskomitees, die sich aus Klinikern, Datenwissenschaftlern und Ethikern zusammensetzen und die sowohl die technischen als auch die ethischen Auswirkungen der KI-Integration bewerten. Die breite Einführung solcher Maßnahmen bleibt jedoch begrenzt, hauptsächlich aufgrund von Ressourcenbeschränkungen und einem Mangel an klaren regulatorischen Leitlinien. Da sich die Gesundheitslandschaft weiter entwickelt, liegt die Herausforderung darin, Innovation mit Verantwortung in Einklang zu bringen. Während KI transformatives Potenzial bietet, erfordert ihre erfolgreiche Umsetzung eine Verpflichtung zur Transparenz, Rechenschaftspflicht und kontinuierlichen Verbesserung.

Ohne sinnvolle Veränderungen bei der Überwachung und Verwaltung von KI kann das Versprechen einer intelligenteren und effizienteren Versorgung auf Kosten der Patientensicherheit kommen. Der Weg nach vorne erfordert die Zusammenarbeit zwischen den Interessengruppen, einschließlich Krankenhausverwaltungen, Technologen und politischen Entscheidungsträgern, um einen Rahmen zu schaffen, der mit den technologischen Fortschritten Schritt hält und gleichzeitig die Integrität der medizinischen Praxis schützt.