Piattaforma di intelligenza artificiale di AGENAS: potenzialità, ritardi e prospettive

Parlare oggi di intelligenza artificiale significa riflettere su nuovi modi per immaginare la società, e su questo fronte l’Italia, come il resto d’Europa, sta vivendo un grande momento di fermento. Benché i nuovi strumenti di IA presentino grandi potenzialità e rivoluzioni, il tema connesso all’uso dei dati risulta essere uno tra i più controversi e delicati, in particolare quando ad essere trattati sono i dati sensibili relativi alla persona. Da questa esigenza nasce l’AI Act che a livello Europeo ha posto le basi per una Governance dell’Intelligenza Artificiale e ha aperto la strada per nuove forme di regolamentazione a livello nazionale dei singoli Paesi, come il DDL IA (ancora in corso di esame per la sua approvazione).

Anche il settore sanità è stato coinvolto nei processi di innovazione tecnologica puntando a creare il nuovo campo della “sanità digitale” che ha portato verso l’ideazione del Fascicolo Sanitario Elettronico (FSE), della Telemedicina e della Piattaforma di intelligenza artificiale a supporto dell’assistenza primaria gestita dall’Agenzia nazionale per i servizi sanitari regionali (AGENAS). Nonostante l’introduzione dell’IA in sanità rappresenti una grande occasione per immaginare e progettare nuove tecnologie capaci di migliorare il sistema sanitario, ad essere attenzionati sono i risvolti sulla tutela dei dati personali e sensibili del cittadino-paziente. A rispondere a questa chiamata, insieme al DDL IA, vi è il Decreto PNRR che all’art. 42 segnala l’importanza del monitoraggio dei servizi di telemedicina e della nuova piattaforma-pilota di IA in merito alla raccolta dei dati, richiedendo all’AGENAS di trattare quelli in possesso in forma anonima , senza rendere direttamente identificabili gli interessati.

La piattaforma IA rientra nella linea di intervento della Componente 1 “Reti di prossimità, strutture e telemedicina per l’assistenza sanitaria territoriale” della Missione 6 Salute del PNRR, che nasce con lo scopo di rafforzare i servizi e le prestazioni distribuite sul territorio grazie alla nascita di strutture territoriali come Case della Comunità (Investimento 1.1), Casa come primo luogo di cura e telemedicina (investimento 1.2), Ospedali di Comunità (investimento 1.3).

In particolare, l’investimento 1.2 punta a migliorare l’assistenza delle persone affette da patologie croniche, con attenzione verso gli over 65, con lo scopo di aumentare il numero dei pazienti assistiti nelle proprie abitazioni ad oltre un milione e mezzo entro il 2026. Ciò sarà possibile grazie alla creazione di un nuovo modello organizzativo con le Centrali operative territoriali e alla promozione e finanziamento di nuovi progetti di telemedicina per l’assistenza sanitaria territoriale. Nello specifico, l’investimento comprende tre sub-investimenti:

• 1.2.1 – Assistenza domiciliare, con una dotazione di 3 miliardi di euro
• 1.2.2 – Centrali operative territoriali (COT), con una dotazione di 280 milioni di euro
• 1.2.3 – Telemedicina per un migliore supporto ai pazienti cronici, con una dotazione di 1,5 miliardi di euro

Un esempio di commistione tra innovazione tecnologica (compresa l’intelligenza artificiale) e impegno verso le reti territoriali si definisce proprio nel sub-investimento 1.2.2 “Centrali operative territoriali” (COT), a sua volta suddiviso in tre diverse articolazioni a cui sono stati indirizzati 103 milioni e 845 mila euro:

• 1.2.2.3 “Device” con oltre 58 milioni di euro
• 1.2.2.4 “Piattaforma di Intelligenza Artificiale a supporto dell’Assistenza sanitaria primaria”  con 50 milioni di euro;
• 1.2.2.5 “Portale della trasparenza”  con oltre 25 milioni di euro.

La piattaforma di intelligenza artificiale in sanità di AGENAS

La piattaforma di intelligenza artificiale a supporto dell’Assistenza sanitaria primaria nasce con l’obiettivo di facilitare le diagnosi e la cura da parte dei medici impegnati nell’assistenza territoriale, nonché la fruizione dei servizi sanitari territoriali da parte degli assistiti nelle Case di Comunità. È una piattaforma che punta ad essere integrata con la Piattaforma Nazionale di Telemedicina (prevista nell’ambito del sub-investimento 1.2.3 “Telemedicina” del PNRR) e con i sistemi informativi regionali, nell’ottica di prevedere l’uso del FSE.

Il progetto punta a garantire una Governance centralizzata delle tecnologie e degli algoritmi di IA utilizzati dai medici per le pratiche cliniche, oltre che a migliorare i servizi di supporto. Si tratta infatti di una Piattaforma dedicata sia ai professionisti sanitari sia agli assistiti che, a diversi livelli, accedono a differenti forme di visibilità delle informazioni. Per i professionisti sanitari, questo strumento sarebbe funzionale al monitoraggio degli assistiti grazie ad un cruscotto di indicatori all’interno dell’app che darebbe una visione chiara dell’evoluzione clinica e dei percorsi di cura, a cui si aggiungono ulteriori vantaggi, tra cui:

possibilità di stratificare, grazie agli algoritmi di IA, i pazienti sulla base di caratteristiche peculiari (es. età, patologie) con lo scopo di veicolare specifiche segnalazioni;

supporto automatico nell’individuare situazioni particolari e possibilità di generare alert immediati;

supporto nell’attività diagnostica di base e nell’individuazione di percorsi di cura più rispondenti alle esigenze degli assistiti.

La Piattaforma sarà accessibile anche agli assistiti, attraverso l’app dedicata, sviluppata in modo da essere multicanale e facilmente navigabile per permettere a chiunque, anche ai meno avvezzi alle tecnologie, di avere la massima fruibilità dei servizi delle Case di Comunità (CdC). Ciò sarà possibile grazie ad un’interfaccia a cruscotto che permetterà di monitorare e consultare il proprio stato di salute. Questo strumento consentirà all’assistito di avere un canale diretto di comunicazione con i professionisti sanitari e ricevere un’erogazione continuativa dei servizi. Tramite app sarà inoltre possibile ottenere l’accesso ad informazioni sanitarie e segnalazioni dal sistema sanitario e dal proprio Medico di Medicina Generale. Si tratta di uno strumento che ha l’ambizione di colmare uno dei principali gap che si riscontrano in quest’ambito, ossia la comunicazione tra medico e paziente, sfruttando il nuovo mondo dell’IA con chatbot e sistemi di machine/deep learning.

La piattaforma avrà la necessità di inglobare anche specifici profili amministrativi e di supporto tecnico per garantirne il massimo funzionamento ed efficacia, sia sul fronte dell’integrazione e del monitoraggio sia su quello della gestione degli algoritmi di IA e della gestione dei dati. È indubbio che il tema dei dati connessi all’IA(i cosiddetti dati sintetici) sia oggi più che mai sensibile a causa della mancanza di una valida policy e di una Governance completa. In funzione di ciò, AGENAS ha dedicato un’intera sezione alla questione nelle sue linee guida sulla Piattaforma, secondo le quali la Piattaforma deve essere allineata all’articolo 10 “Dati e governance dei dati” del Regolamento del Parlamento Europeo COM (2021) 206 final che definisce le regole armonizzate sull’IA:

• la Piattaforma dovrà definire un’architettura di acquisizione e gestione dei dati che consenta di alimentare i sistemi informatici e gli algoritmi di IA con il maggior grado di completezza possibile, riducendo i rischi di bias nella sintesi di predizioni automatizzate;
• dovranno essere implementati opportuni meccanismi di controllo di visibilità e sistemi di gestione dei permessi sugli accessi, al fine di garantire adeguati livelli di privacy sulle informazioni sensibili;
• la Piattaforma metterà a disposizione moduli di pre-processamento e consolidamento semantico dei dati, che consentono di arricchire il contenuto informativo.

Dopo un primo addestramento inziale, la Piattaforma dovrà usare il flusso di dati ricevuti per un ulteriore apprendimento e miglioramento del sistema e, data la sua complessità, sarà necessario garantire degli approcci di data governance e master data management by design per una maggiore accuratezza e uniformità nei processi e nei trattamenti. L’implementazione della Piattaforma dovrebbe seguire le scadenze del PNRR relative a due Target del Sub-investimento 1.2.2 Centrali operative territoriali:

1. Entro dicembre 2024 la stipula del contratto per gli strumenti di intelligenza artificiale a supporto dell’assistenza primaria (scadenza inizialmente fissata a giugno 2023);
2. Entro giugno 2026 il completamento degli strumenti di intelligenza artificiale a supporto dell’assistenza primaria.

Infine, il piano di implementazione del progetto prevede di seguire tre fasi:

1. Progettazione e realizzazione delle componenti architetturali e software della Piattaforma, nonché degli algoritmi necessari al suo funzionamento (entro dicembre 2024).
2. Sperimentazione su un campione di professionisti sanitari e di popolazione per valutare le funzionalità della Piattaforma, la sua sicurezza, qualità, efficienza ed efficacia. Una prima versione completa delle principali funzionalità della piattaforma dovrà essere rilasciata ed essere messa in esercizio entro dicembre 2025.
3. Una fase di messa in esercizio e gestione nell’ambito della quale si svolgerà la gestione e la manutenzione della Piattaforma e la diffusione dei sei casi d’uso previsti. Quest’ultimo momento sarà svolto nel corso dell’anno 2026.

I ritardi sull’attuazione del sub-investimento sulla Piattaforma di IA e la sospensione del Garante della Privacy

Nell’ottobre del 2022, AGENAS pubblica l’avviso di indizione di una procedura di dialogo competitivo per l’affidamento del contratto per la progettazione, la realizzazione, la messa in esercizio e la gestione della piattaforma di Intelligenza Artificiale a supporto dell’assistenza sanitaria primaria con valore stimato pari a 37 milioni e 750mila euro , con scadenza finale per la presentazione delle domande di partecipazione a dicembre 2022.  Come accennato, la stipula del contratto di appalto avrebbe dovuto rispettare la data di giugno 2023, salvo poi essere stata posticipata a dicembre 2024 con l’invariata scadenza del contratto a dicembre 2026.

Il motivo è legato alla decisione di AGENAS di sospendere in via cautelativa e temporanea la procedura di dialogo competitivo per la realizzazione della Piattaforma a seguito di una nota del Garante della Privacy che chiedeva maggior chiarezza su tre punti:

1. la base giuridica in forza della quale si intenderebbero realizzare i trattamenti di dati personali attraverso la piattaforma;
2. le valutazioni svolte e le misure che si intenderebbero implementare per assicurare effettiva applicazione ai principi di protezione dei dati personali nelle diverse fasi di realizzazione della piattaforma;
3. le modalità attraverso le quali si intenderebbe dare piena attuazione al decalogo del Garante (Decalogo per la realizzazione di servizi sanitari attraverso sistemi di Intelligenza Artificiale).

L’appunto principale del Garante della Privacy risulta dunque essere la protezione dei dati sanitari personali dell’assistito, preoccupazione affiorata anche in merito allo schema di decreto sull’Ecosistema Dati Sanitari (EDS), in cui il Garante rilevava molteplici carenze e rimaneva in attesa di un inquadramento di carattere generale sul trattamento dei dati personali nell’ambito della sanità digitale. La stessa preoccupazione è emersa anche in merito allo schema di disegno di legge recante disposizioni e deleghe in materia di intelligenza artificiale (DDL IA), che ha ricevuto parere favorevole dal Garante della Privacy con proposta di modifica di alcuni articoli relativi proprio al trattamento dei dati in ambito sanitario (7, 8 , 9).

In un momento storico in cui l’Intelligenza artificiale ha iniziato ad acquisire e inglobare gran parte dei dati su ognuno di noi, la richiesta del Garante della Privacy assume un’importanza determinante, dimostrando come sia essenziale proteggere le “categorie particolari di dati personali”, ossia i dati più sensibili, come quelli sanitari.

Il nuovo DDL AI: la regolamentazione dell’AI in sanità

Un nuovo tassello nell’evoluzione regolamentare dell’intelligenza artificiale in Italia è il DDL IA, che reca la delega legislativa al Governo per l’adeguamento della normativa italiana all’AI Act,. Approvato dal Consiglio dei ministri, il nuovo DDL IA è attualmente in esame al Senato in Commissione congiunta 8ª (Ambiente, transizione ecologica, energia, lavori pubblici, comunicazioni, innovazione tecnologica) e 10ª (Affari sociali, sanità, lavoro pubblico e privato, previdenza sociale)  

Il Disegno di Legge è composto da 25 articoli suddivisi in sei capitoli che propongono uno scenario olistico e dettagliato della regolamentazione sull’AI, seguendo i principi di trasparenza, correttezza e responsabilità. Si prevede inoltre che la Governance sia controllata congiuntamente dall’ Agenzia per l’Italia Digitale (AgID) e dall’Agenzia per la cybersicurezza nazionale (Acn), dimostrando la trasversalità della disciplina legata all’IA che passa dall’etica, alla privacy e alla sicurezza dei dati.

Il DDL IA pone, per l’appunto, parte della sua attenzione al tema sanità, intervenendo con tre specifici articoli e sottolineando il divieto di utilizzare l’IA per procurare ogni tipo di discriminazione di accesso alle cure, incentivando invece la diffusione di strumenti che portino a un’inclusione e a un accesso paritario. Si tratta nello specifico degli articoli 7, 8 e 9 del disegno di legge che ne riassumono i principi generali. Più nel dettaglio:

• L’art. 7 mette le basi generali sull’utilizzo di strumenti IA in sanità, sottolineando come il loro uso debba essere funzionale al miglioramento del sistema sanitario, della prevenzione e la cura delle malattie, mantenendo un accesso alle cure senza discriminazioni.  Viene segnalato altresì che il DDL promuove lo studio e lo sviluppo delle nuove forme di strumenti di IA per la sanità ma l’interessato (paziente/cittadino) dovrà sempre essere informato sui vantaggi di tali tecnologie per il percorso terapeutico e ricevere costanti informazioni a riguardo.
• L’art. 8 è dedicato alla tutela dei dati, dichiarando che tutti i dati personali usati da soggetti pubblici o privati per la sperimentazione e ricerca di sistemi di IA per la prevenzione di malattie, diagnosi e cura che poi confluiranno in banche dati, sono definiti di interesse pubblico. Il trattamento di questi dati deve comunque essere approvato dai comitati etici interessati e devono essere comunicati all’Autorità garante per la protezione dei dati personali. Infine, l’art. 9 richiama la piattaforma di Intelligenza Artificiale  di AGENAS. L’articolo però attenziona soprattutto il tema dei dati: la Piattaforma, infatti, dovrà utilizzare i dati strettamente necessari all’erogazione dei servizi e AGENAS dovrà, in qualità di titolare del trattamento dei dati raccolti e generati, “specificare i tipi di dati trattati e le operazioni eseguite all’interno della piattaforma, nonché le misure tecniche e organizzative per garantire un livello di sicurezza adeguato al rischio e per tutelare i diritti fondamentali e gli interessi dell’interessato, in coerenza con le disposizioni del Regolamento UE 2016/679”[1].

È proprio su questi tre articoli del DDL IA che il Garante della Privacy suggerisce l’introduzione di specifiche modifiche e integrazioni:

• Per l’art. 7, invita a un richiamo diretto all’art. 10 dell’AI Act per i sistemi di IA considerati ad alto rischio; raccomanda l’uso di dati sintetici o anonimi e l’indicazione di particolari limitazioni per l’utilizzo di dati sanitari, tra cui il divieto di trasmissione, trasferimento o comunicazione, nonché la limitazione della conservazione.
• Per l’articolo 8, parallelamente, propone modifiche affinchè sia conforme ai requisiti di determinatezza specifici del GDPR e del Codice Privacy; richiede garanzie per l’uso secondario dei dati secondo l’articolo 89 del Regolamento; suggerisce di sostituire “dati privi di elementi identificativi diretti” con “dati pseudonimizzati”; propone di eliminare il riferimento alla possibilità di assolvere l’obbligo di informativa in forma generale e chiede di integrare una clausola di salvaguardia rispetto ai poteri di cui alla Sezione II del Capo VI del Regolamento.
• Per l’articolo 9, chiede di integrarlo inserendo il richiamo all’art. 10 dell’AI Act (già indicato rispetto all’articolo 7).

Il DDL AI sembra dunque definirsi come una base giuridica di riferimento per il trattamento dei dati personali in sanità, rispondendo così anche ad alcuni dei dubbi presentati dal Garante della Privacy sulla Piattaforma AI. Nonostante ciò, AGENAS rimane ancora cauta e tiene sospesa la gara per l’appalto posticipando a dicembre 2024 la stipula di contratti.

• [1] Estratto schema di disegno di legge recante disposizioni e delega al Governo in materia di intelligenza artificiale