Rischi ed opportunità dell’utilizzo AI in ambito sanitario

Come evidenziato nel documento dell’OCSE, si possono individuare diverse barriere all'innovazione responsabile dell'AI nel settore sanitario.

Politiche disallineate e mancanza di standard
La carenza di armonizzazione tra diritti individuali (beneficio della scienza, privacy, salute, autonomia) ostacola lo sviluppo responsabile dell'AI in sanità. Senza una chiara governance e politiche flessibili, i progressi tecnologici rischiano di essere rallentati dalla mancanza di disponibilità dei dati necessari. Le politiche devono adattarsi ai cambiamenti, ad esempio, cercando di bilanciare con standard comuni le esigenze di sicurezza dei dati e la loro accessibilità, tema molto sensibile nella regolamentazione europea, ma che può costituire un freno all'innovazione responsabile dell'AI in ambito medico. Gli standard possono accelerare lo sviluppo di soluzioni di AI sicure, semplificando interoperabilità e migliorando la qualità e la circolazione dei dati.

Frammentazione del sistema sanitario globale
La presenza di sistemi sanitari parcellizzati e diversamente strutturati, ostacola l’efficacia di programmi e obiettivi di salute globali. Fattori chiave sono la proliferazione di attori coinvolti, problemi di leadership e responsabilità ed evidenti interessi divergenti.

Mancanza di chiarezza in materia di responsabilità
Senza chiarezza sulle responsabilità per le soluzioni di AI vi è il rischio di avere duplicazioni d’intervento o all’opposto lacune critiche. È dunque necessaria una governance per definire regole chiare su sviluppo, adozione e uso dell'AI, una forte leadership che promuova cambiamento culturale, cooperazione inter-organizzativa e adeguato finanziamento.

L’insufficiente fiducia e comprensione della salute digitale
Così come l’alfabetizzazione digitale relativa al contesto sanitario. Sforzi significativi sono necessari per dimostrare affidabilità delle soluzioni digitali e applicazioni sanitarie di IA, semplificandone l'uso e illustrandone chiaramente benefici, rischi e controlli.

Secondo il documento dell’OCSE, alcuni rischi legati alle soluzioni di AI che possono avere un forte impatto e che devono essere necessariamente gestiti e mitigati sono, tra gli altri:

Lo sviluppo sulla base di dati soggetti a bias, che può portare a risultati distorti e dannosi: per addestrare le applicazioni di AI sono necessarie ampie serie di dati clinici. La selezione dei dati utilizzati in queste applicazioni può portare involontariamente a distorsioni nei risultati, come ad esempio la mancanza di applicabilità a certi sottogruppi di popolazione, sollevando così il dubbio che i risultati siano appropriati. Quando si progettano e si implementano soluzioni di AI, è necessario assicurarsi che i dati utilizzati per addestramento e verifica siano rappresentativi della popolazione target a cui saranno applicati i risultati.
 
Lo sfruttamento di quantità significative di dati, con conseguenti problemi di privacy e sicurezza: anche se i dati identificativi sono rimossi, il rischio di re-identificazione degli individui rimane, con potenziali violazioni della privacy e usi impropri. Tali rischi riguardano anche i dataset di addestramento per soluzioni AI, esposti ad attacchi informatici che possono comprometterne l'integrità e creare pregiudizi. Per mitigare questi rischi, sono necessari controlli tecnologici (crittografia, pseudonimizzazione, dati sintetici), cultura della privacy e sicurezza, un codice di condotta chiaro e linee guida specifiche per l'accesso ai dati.
 
La difficoltà di interpretazione dei ragionamenti che hanno portato al risultato, con un impatto sul processo decisionale basato sull'evidenza e sulla responsabilità: la natura di "scatola nera" degli algoritmi AI può rendere difficile comprendere i processi che hanno portato a un determinato risultato, creando dubbi sull’affidabilità dell’informazione ottenuta, o dall’altra parte favorendo una fiducia eccessiva che può comportare la diminuzione del controllo. È importante sviluppare linee guida e tecnologie appropriate per la spiegabilità delle soluzioni AI, fornendo informazioni sufficienti a creare fiducia nei risultati ottenuti. 

La sostituzione di posti di lavoro, con la conseguenza di un'assistenza non personalizzata o l’introduzione di nuovi problemi di responsabilità: esiste preoccupazione che l'AI possa sostituire eccessivamente l’operatore sanitario, portando a una perdita di coinvolgimento umano nell'assistenza. Tuttavia, se guidata correttamente, l'AI può integrare il rapporto paziente-operatore, anziché sostituirlo. L'adozione dell'AI può migliorare il mantenimento e la produttività della forza lavoro sanitaria, automatizzando attività a basso valore aggiunto. 

La dipendenza dal contesto: le prestazioni delle soluzioni AI possono degradare nel passaggio dal contesto di addestramento  a quello di effettivo utilizzo, possono variare significativamente se applicati in contesti diversi e addirittura modificarsi nel tempo, nel caso ad esempio dell’apprendimento continuo. Ciò richiede un monitoraggio e un miglioramento costante dopo l'implementazione, mettendo sistematicamente a disposizione informazioni su spiegabilità, equità, efficacia, sicurezza e accuratezza. Il tracciamento degli incidenti  deve essere gestito in modo da garantire una efficace attività di sorveglianza del mercato, per sostenere un’adeguata supervisione e una rapida risposta agli eventi.

La responsabilizzazione degli individui e personalizzazione delle cure: le applicazioni di AI possono supportare gli individui fornendo informazioni basate sui loro dati sanitari personali. Gli strumenti basati sull'AI possono aiutare i pazienti a comprendere meglio le loro cartelle cliniche e a navigare in sistemi sanitari complessi. I modelli generativi di AI possono anche fungere da “co-pilota” per i pazienti, aiutandoli a prendere decisioni informate sulle loro cure. Piani di cura personalizzati in base alle caratteristiche genetiche e alle condizioni di salute specifiche di ogni paziente, possono migliorare per esempio l'efficacia dei trattamenti grazie a un’ottimizzazione del dosaggio dei farmaci considerando fattori come età, peso, ereditarietà e progressione della malattia. Questo approccio riduce gli effetti collaterali e aumenta l'efficacia del trattamento.

Semplificazione dei processi e miglioramento delle capacità decisionali: l'AI mantiene aggiornati i professionisti, semplifica processi e ne migliora il supporto decisionale, consentendo agli operatori di concentrarsi maggiormente sulla cura delle persone e permettendogli di recuperare tempo per l'assistenza diretta ai pazienti. Integrando armonicamente l'AI nei flussi di lavoro sanitario, è possibile ottenere significativi vantaggi in termini di efficienza, qualità delle cure e soddisfazione degli operatori coinvolti.

Ottimizzazione dell'efficienza e contrasto alle disuguaglianze: l'AI in ambito sanitario può aiutare ad individuare disuguaglianze e aree sottosservite nei sistemi sanitari, supportando gli amministratori con dati concreti per migliorare l’erogazione del servizio. Ottimizzando i sistemi sanitari, l'AI può portare a un'allocazione più efficiente delle risorse, aumentando preparazione e resilienza alle minacce di salute pubblica; può aiutare a prevedere e gestire la domanda di assistenza, permettendo ai sistemi di adattarsi alle esigenze in evoluzione e migliorare complessivamente la qualità delle cure.

Opportunità economiche: le stime proiettano una crescita vertiginosa del valore di mercato dell'AI in questo ambito. Gli introiti deriverebbero principalmente da tre fattori: l'aumento di produttività dei professionisti sanitari grazie all'automazione di attività amministrative, il miglior sfruttamento dei dati esistenti (come cartelle cliniche e letteratura scientifica) per fornire supporto diagnostico e la scoperta di nuove innovazioni terapeutiche e preventive.

Queste opportunità si basano sull'accesso a dati sanitari di qualità, garantiti da una governance efficace e responsabile.