Opinion: STAT+: L'IA des hôpitaux est peut-être à la dérive.

Selon un article d'opinion récent publié par STAT News, la plupart des systèmes de santé continuent de surveiller les applications d'IA en utilisant des méthodes similaires à celles utilisées pour les équipements médicaux traditionnels il y a plus d'une décennie, à savoir un sous-comité, une liste de contrôle et des réunions périodiques.

Cette approche peut prendre jusqu'à six mois pour être complétée, laissant des lacunes dans la sécurité et l'efficacité des soins axés sur l'IA. Les auteurs de l'article, Peter Pronovost, directeur de la qualité et de la transformation clinique des hôpitaux universitaires, et Kedar Mate et Justin Norden, co-fondateurs de Qualified Health, soutiennent que ce modèle de gouvernance lent et fragmenté ne convient pas à l'évolution rapide de la technologie de l'IA. Ils soulignent que si l'IA a démontré des avantages tangibles en améliorant l'efficacité et la précision, son déploiement manque de la surveillance rigoureuse nécessaire pour protéger les résultats des patients.

Le système actuel, qui relève souvent des départements de technologie de l'information, ne parvient pas à relever les défis uniques posés par la prise de décision algorithmique dans les milieux cliniques. Qualified Health, une société axée sur le développement de solutions d'IA pour les soins de santé, souligne la nécessité de cadres plus robustes pour évaluer et réglementer les outils d'IA. Les dirigeants de l'entreprise soulignent que les hauts dirigeants, et pas seulement les équipes informatiques, doivent s'assurer que les systèmes d'IA répondent à des normes élevées de fiabilité et de transparence.

Le problème dépasse les hôpitaux individuels. À mesure que l'IA devient plus répandue dans les flux de travail cliniques, le manque de surveillance normalisée soulève des inquiétudes quant à la cohérence et à la responsabilité. Certains experts avertissent que sans une réglementation appropriée, le potentiel de dommages augmente, en particulier dans les domaines où les décisions de l'IA ont un impact direct sur le diagnostic et le traitement. Par exemple, si un outil d'IA identifie mal une maladie ou ne parvient pas à détecter une complication potentiellement mortelle, les conséquences pourraient être graves. En réponse à un examen de plus en plus minutieux, certaines organisations de soins de santé ont commencé à explorer des modèles alternatifs de gouvernance de l'IA.

Il s'agit notamment de comités de surveillance dédiés composés de cliniciens, de scientifiques des données et d'éthiciens, chargés d'évaluer à la fois les implications techniques et éthiques de l'intégration de l'IA. Cependant, l'adoption généralisée de ces mesures reste limitée, en grande partie en raison de contraintes de ressources et d'un manque de directives réglementaires claires. Alors que le paysage de la santé continue d'évoluer, le défi consiste à équilibrer l'innovation avec la responsabilité.

Sans des changements significatifs dans la façon dont l'IA est surveillée et gérée, la promesse d'une prise en charge plus intelligente et plus efficace peut se faire au détriment de la sécurité des patients. La voie à suivre exige la collaboration entre les parties prenantes, y compris les administrateurs hospitaliers, les technologues et les décideurs, pour établir un cadre qui suit le rythme des progrès technologiques tout en protégeant l'intégrité de la pratique médicale.