Opinione: STAT+: Ospedali L'intelligenza artificiale potrebbe andare alla deriva.

Gli ospedali negli Stati Uniti si affidano sempre più all'intelligenza artificiale per svolgere compiti critici come la stesura di note cliniche, il rilevamento della sepsi, l'analisi delle immagini mediche, l'elaborazione di autorizzazioni precedenti e la risposta alle richieste dei pazienti.

Questo approccio può richiedere fino a sei mesi per essere completato, lasciando lacune nel garantire la sicurezza e l'efficacia delle cure guidate dall'IA. Gli autori dell'articolo, Peter Pronovost, chief quality and clinical transformation officer presso gli ospedali universitari, e Kedar Mate e Justin Norden, co-fondatori di Qualified Health, sostengono che questo modello di governance lento e frammentato è inadatto alla rapida evoluzione della tecnologia dell'IA. Sottolineano che mentre l'IA ha dimostrato benefici tangibili nel migliorare l'efficienza e l'accuratezza, la sua implementazione manca della rigorosa supervisione necessaria per salvaguardare gli esiti dei pazienti.

Il sistema attuale, che spesso rientra nell'ambito di competenza dei dipartimenti di tecnologia dell'informazione, non riesce ad affrontare le sfide uniche poste dal processo decisionale algoritmico in contesti clinici. Qualified Health, una società focalizzata sullo sviluppo di soluzioni di intelligenza artificiale per l'assistenza sanitaria, sottolinea la necessità di strutture più robuste per valutare e regolare gli strumenti di intelligenza artificiale. I leader dell'azienda sottolineano che la dirigenza senior, non solo i team IT, deve assumere la responsabilità di garantire che i sistemi di intelligenza artificiale soddisfino elevati standard di affidabilità e trasparenza. Ciò include la validazione continua degli algoritmi, il monitoraggio continuo delle prestazioni e i meccanismi per affrontare errori o pregiudizi che possono emergere nel tempo.

Il problema si estende oltre i singoli ospedali. Man mano che l'IA diventa più diffusa nei flussi di lavoro clinici, la mancanza di una sorveglianza standardizzata solleva preoccupazioni sulla coerenza e la responsabilità. Alcuni esperti avvertono che senza una corretta regolamentazione, il potenziale di danni aumenta, in particolare nelle aree in cui le decisioni dell'IA hanno un impatto diretto sulla diagnosi e sul trattamento. Ad esempio, se uno strumento di IA identifica erroneamente una condizione o non rileva una complicazione potenzialmente fatale, le conseguenze potrebbero essere gravi. In risposta al crescente controllo, alcune organizzazioni sanitarie hanno iniziato a esplorare modelli alternativi per la governance dell'IA.

Questi includono comitati di sorveglianza dedicati composti da clinici, scienziati dei dati ed etico, incaricati di valutare sia le implicazioni tecniche che etiche dell'integrazione dell'IA. Tuttavia, l'adozione diffusa di tali misure rimane limitata, in gran parte a causa dei vincoli di risorse e della mancanza di chiare linee guida normative. Man mano che il panorama sanitario continua ad evolversi, la sfida sta nell'equilibrare l'innovazione con la responsabilità. Mentre l'IA offre un potenziale trasformativo, la sua implementazione riuscita richiede un impegno per la trasparenza, la responsabilità e il miglioramento continuo.

Senza cambiamenti significativi nel modo in cui l'IA viene monitorata e gestita, la promessa di cure più intelligenti ed efficienti può venire a scapito della sicurezza del paziente. Il percorso in avanti richiede la collaborazione tra le parti interessate, compresi gli amministratori ospedalieri, i tecnologi e i responsabili delle politiche, per stabilire un quadro che tenga il passo con i progressi tecnologici proteggendo l'integrità della pratica medica.