Healthcare: i nuovi adempimenti del Regolamento Europeo sull'Intelligenza artificiale

Una delle preoccupazioni più significative riguarda la privacy dei dati. I sistemi di AI richiedono enormi quantità di dati dei pazienti per funzionare efficacemente, ma più sono i dati raccolti, maggiore è il rischio di violazioni o uso improprio. I pazienti devono poter confidare che le loro informazioni sanitarie sensibili saranno protette e utilizzate in modo responsabile. L'implementazione di robuste misure di sicurezza dei dati e la garanzia di conformità con le leggi sulla privacy sanitaria come HIPAA negli Stati Uniti o GDPR in Europa sono essenziali per mantenere la fiducia dei pazienti.

Anche la trasparenza è una sfida etica che richiede attenzione. Gli algoritmi di AI, specialmente quelli complessi come i modelli di deep learning, spesso operano come scatole nere dove il processo decisionale non è facilmente comprensibile dagli esseri umani. Questa mancanza di trasparenza solleva questioni sulla responsabilità. Se un sistema di AI fa una raccomandazione che porta a un risultato avverso, chi è responsabile? È il medico che si è affidato al sistema, gli ingegneri che l'hanno sviluppato, o l'organizzazione sanitaria che l'ha implementato? Man mano che l'AI continua ad assumere un ruolo più importante nel processo decisionale sanitario, sarà cruciale stabilire linee guida chiare per la responsabilità.

L'uso primario dei dati sanitari elettronici riguarda la cura e l'assistenza diretta ai pazienti. Gli utilizzatori includono:

• Professionisti sanitari: medici, infermieri e altri operatori che accedono ai dati per fornire assistenza sanitaria;
• Preparatori di assistenza sanitaria: strutture sanitarie che trattano i dati per garantire cure adeguate;
• Pazienti stessi: hanno il diritto di accedere ai propri dati sanitari elettronici personali e di condividerli con i professionisti sanitari di loro scelta, grazie al diritto alla portabilità dei dati sancito dal Regolamento.

L'uso secondario riguarda finalità diverse dalla cura diretta del paziente, come ricerca, politiche sanitarie e monitoraggio della salute pubblica. Gli utilizzatori includono:

• Organismi pubblici: per attività di sorveglianza sanitaria, definizione delle politiche sanitarie e garanzia della sicurezza dei pazienti;
• Ricercatori e istituzioni scientifiche: per progetti di ricerca che utilizzano i dati sanitari raccolti;
• Enti regolatori e assicurativi: per garantire la qualità e la sostenibilità dei sistemi sanitari.

Tra gli obblighi degli utilizzatori previsti dall’AI Act (Art 26) relativi all’uso di sistemi AI ad alto rischio, figurano:

• Misure tecniche e organizzative
  Gli utilizzatori devono adottare misure tecniche e organizzative per garantire che i sistemi di intelligenza artificiale siano sempre utilizzati conformemente alle istruzioni per l’uso che devono accompagnare i sistemi, in modo da evitare errori di utilizzo che possano compromettere la sicurezza, le performance o i diritti fondamentali dei pazienti;
• Sorveglianza umana
  I deployer devono garantire il monitoraggio e la supervisione umana del sistema di intelligenza artificiale, assegnandola a persone fisiche che abbiano l’appropriata formazione, le competenze e l'autorità necessarie per svolgere tale funzione, in conformità a quanto indicato dal fornitore. Prima di mettere in servizio o utilizzare un sistema di AI ad alto rischio sul luogo di lavoro, i deployer devono informare i lavoratori interessati che saranno soggetti all'uso del sistema di AI ad alto rischio;
• Appropriatezza dei dati di input
  Nella misura in cui esercita il controllo sui dati di input, il deployer garantisce che tali dati di input siano pertinenti e sufficientemente rappresentativi alla luce della finalità prevista del sistema di IA per evitare risultati distorti o non accurati;
• Monitoraggio del sistema
  I deployer devono monitorare il funzionamento del sistema di intelligenza artificiale sulla base delle istruzioni per l’uso e intervenire tempestivamente se emergono malfunzionamenti, comportamente inattesi che possano costituire un rischio per i pazienti e segnalare qualsiasi rischio o incidente grave al fornitore e alle autorità competenti, eventualmente sospendendo l'uso del sistema di intelligenza artificiale. In caso di incidenti gravi, i deployer devono informare immediatamente il fornitore, il distributore e le autorità di vigilanza del mercato;
• Registrazione alla banca dati
  Prima di utilizzare un sistema di intelligenza artificiale ad alto rischio, i deployer devono assicurarsi che il sistema sia stato registrato nella banca dati. In alcuni casi di utilizzo  di sistemi general pourpose,  il deployer può essere obbligato a registrare il sistema di intelligenza artificiale nella banca dati anche se il sistema non è stato classificato dal fornitore come ad alto rischio;
• Valutazione di impatto
  Il deployer prima di utilizzare un sistema AI ad alto rischio deve effettuare una valutazione di impatto sulla protezione dei dati e un’analisi dei rischi al fine di assicurarsi che il sistema IA non presenti rischi significativi non accettabili per la salute, la sicurezza o i diritti fondamentali delle persone;
• Trasparenza
  Per i sistemi che adottano decisioni o assistono nell'adozione di decisioni che riguardano persone fisiche informano queste ultime che sono soggette all'uso del sistema di AI ad alto rischio. I deployer devono garantire che gli utenti finali siano sempre informati che stanno interagendo con un sistema di intelligenza artificiale e non con un essere umano.