IA, la necessità di una governance responsabile: il caso Istat

Home PA Digitale Governance IA, la necessità di una governance responsabile: il caso Istat

L’Italia, secondo i dati Istat, sta progressivamente adottando l’IA, soprattutto nelle imprese di medie e grandi dimensioni. Nonostante ciò, persistono i rischi di un’adozione non responsabile di queste nuove tecnologie. L’Istat, in virtù di ente di ricerca al servizio della collettività, ha definito un Framework di Governance dell’IA. Questo framework si basa su tre pilastri: innovazione, dati e regole, e persone. L’obiettivo è promuovere l’innovazione in modo responsabile, garantendo la conformità alle normative e lo sviluppo delle competenze del personale

27 Gennaio 2025

F

Massimo Fedeli

Direttore Dipartimento per lo sviluppo di metodi e tecnologie per la produzione e diffusione dell’informazione statistica

L

Sara Letardi

Dipartimento per lo sviluppo di metodi e tecnologie per la produzione e diffusione dell'informazione statistica

Foto di Ben Soyka su Unsplash - https://unsplash.com/it/foto/un-uomo-che-tiene-in-mano-un-aeroplanino-di-carta-pZ_H3WEJp84

La quindicesima Conferenza Nazionale di Statistica, dedicata al tema dell’Intelligenza artificiale, si è aperta con uno sguardo rivolto alle grandi opportunità che le nuove tecnologie offrono alla Statistica Ufficiale. Come sottolineato dal Presidente Chelli: “Le diverse fasi del processo statistico potranno essere profondamente ripensate e rigenerate con sistemi intelligenti adeguati: dalla raccolta dei dati alla loro elaborazione, dalla gestione di depositi, archivi e registri, allo scambio tra operatori esperti, fino alla comunicazione agli utenti finali”.

A fronte degli evidenti benefici, si devono considerare anche i rischi che possono derivare dall’adozione dell’AI e che sono relativi a diverse aree come ad esempio quella reputazionale e sociale, con il rischio di fornire risposte errate, come quelle generate da chatbot, che potrebbero minare la credibilità dell’Istituto o l’area economica, come incrementi non previsti dei costi o potenziali situazioni di vendor lock-in, oppure l’area relativa alle risorse umane, con i rischi derivanti dall’erosione delle competenze professionali che potrebbero comportare una progressiva perdita di autonomia nelle attività istituzionali.

Secondo i dati Istat nel 2024 l’8,2% delle imprese in Italia con almeno 10 addetti utilizza tecnologie di Intelligenza Artificiale (IA); nel 2023 erano il 5,0%. In particolare, il 14,0% delle imprese con 50-99 addetti ha fatto ricorso a tecnologie di AI (nel 2023 erano solo il 5,6%); cresce anche la quota delle grandi imprese che utilizza l’AI che passa dal 24,1% nel 2023 al 32,5% nel 2024. I dati del 2023[1] evidenziano, tra gli ostacoli all’utilizzo dell’IA, la mancanza di competenze (55,1%), i costi troppo alti (49,6%) e l’indisponibilità o la scarsa qualità dei dati necessari per l’utilizzo delle tecnologie di AI (45,5%).

Introdurre l’Intelligenza Artificiale è quindi un processo complesso che presenta, oltre ai benefici, diverse sfide di cui bisogna tenere conto e l’Istituto, come ente di ricerca al servizio della collettività, deve agire con responsabilità e visione strategica.

Definizione del framework di governance

Per affrontare le sfide e promuovere l’innovazione in modo consapevole, è essenziale dotarsi di una governance efficace dell’AI che garantisca la conformità alla normativa vigente, prima fra tutte l’AI Act di recente pubblicazione, l’aderenza ai valori etici e l’affidabilità delle soluzioni di AI. Un’adeguata governance può, infatti, favorire lo sviluppo di soluzioni sostenibili e orientate al beneficio sociale, promuovendo l’innovazione e la crescita culturale. In Istituto, per tradurre in azioni operative quanto previsto dalla normativa e dalle buone pratiche, nazionali e internazionali, è stato definito un Framework di Governance, attraverso un processo articolato in più fasi.  Prendendo in considerazione quanto già presente sul panorama nazionale e internazionale, attraverso la partecipazione a progetti internazionali, il monitoraggio dei progetti sperimentali già avviati e l’analisi della normativa e delle linee guida, si è strutturato un framework di governance identificando tre pilastri distinti e interagenti: Innovazione, Dati&Regole e Persone.

Il pilastro Innovazione comprende l’esplorazione delle tecnologie innovative e la definizione degli strumenti operativi per la valutazione e la prioritizzazione dei casi d’uso di AI che si intendono sviluppare. Il pilastro Dati&Regole, riferendosi al quadro normativo europeo e nazionale, integra le buone pratiche e definisce i processi per garantire la gestione, il controllo e la supervisione dei sistemi di AI. Inoltre, vengono messi a punto gli strumenti operativi necessari a garantire la conformità normativa delle soluzioni che si intendono adottare. Infine, il pilastro Persone comprende l’individuazione di azioni volte allo sviluppo delle competenze, alla formazione continua e delinea il piano di comunicazione sulle tematiche di AI, sia interna che esterna all’Istituto, promuovendo azioni per la crescita culturale del personale e della cittadinanza.

Esempi di casi d’uso in Istat

Per cogliere le opportunità di innovazione nei metodi e nelle tecnologie per la produzione e diffusione dell’informazione statistica, per incrementare l’efficienza amministrativa e, in definitiva, per offrire al Paese un servizio al passo con i tempi, in Istat si stanno sviluppando diversi casi d’uso, attualmente in fase di Proof Of Concept (POC) nel contesto del Framework di Governance delineato.  Questa strategia permette, da un lato, di garantire un’adozione responsabile delle soluzioni di AI che via via vengono introdotte e, dall’altro, di apportare miglioramenti continui al framework e ai suoi strumenti operativi, sulla base delle evoluzioni tecnologiche, degli aggiornamenti normativi e delle verifiche sul campo, garantendo così la sua efficacia nel tempo.

Il primo passo è stato quello di censire e monitorare le soluzioni di AI in via di sviluppo, per iniziare a costruire una base di conoscenza comune attraverso la raccolta delle informazioni sulle diverse tecnologie utilizzate e promuovendo, dove possibile, il riuso delle stesse. Fra i progetti avviati, spiccano le applicazioni di AI per facilitare l’accesso al patrimonio informativo dell’Istituto, attraverso l’implementazione di chat bot o tramite l’utilizzo della ricerca semantica, e le applicazioni per il miglioramento della produttività, come l’utilizzo di assistenti virtuali o soluzioni per la traduzione automatica di documenti pubblici.

I primi casi d’uso sono stati analizzati per distinguere la categoria di prodotto, la classificazione del livello di rischio dello stesso, nonché il ruolo di Istat, al fine di individuare gli adempimenti necessari a conformarsi all’AI Act.

Da ottobre scorso, in coerenza con il regolamento europeo, l’Istituto ha avviato un percorso di alfabetizzazione del personale, promuovendo corsi di formazione di base, diffondendo i materiali informativi attraverso i propri canali di comunicazione interna e attivando delle campagne di sensibilizzazione sul tema.

Gli strumenti definiti nel corso dell’ultimo anno e le prime POC avviate verranno valutati e consolidati nel corso del 2025, in un processo di miglioramento continuo, al fine non solo di recepire le novità tecnologiche e normative, ma anche per rispondere alle nuove esigenze di sviluppo e benessere lavorativo e sociale.


[1] Dati del 2023 riferiti ad imprese che avevano preso in considerazione l’utilizzo di tecnologie di Intelligenza Artificiale ma non le avevano ancora utilizzate.

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

Su questo argomento

Ricerca semantica e IA, da oggi accedere a dati di qualità e certificati è più semplice: è nato il nuovo sito Istat.it