IA e amministrazioni pubbliche: quattro parole-chiave per inquadrare il dibattito
Produttività, discrezionalità, equità e territorializzazione sono quattro parole chiave che possono aiutarci a capire alcune delle problematiche che caratterizzano il dibattito sull’introduzione della IA nelle amministrazioni pubbliche. L’utilizzo di questo tipo di soluzioni tecnologiche richiede infatti un’attenta riflessione perché quello che è stato chiamato ‘governo algoritmico’ e anche ‘terza ondata della digital era governance’ realizzi le aspettative riposte in queste innovazioni tecnologiche
3 Ottobre 2024
Giancarlo Vecchi
Associate Professor of Policy Analysis Politecnico di Milano – School of Management
Il rapido sviluppo di soluzioni basate su Interactive large language models (LLMs) come per esempio ChatGPT e simili, e quindi su applicazioni basate sull’intelligenza artificiale (IA), richiede una altrettanto veloce azione da parte delle organizzazioni del settore pubblico. L’utilizzo di questo tipo di soluzioni tecnologiche richiede un’attenta riflessione perché quello che è stato chiamato ‘governo algoritmico’ ed anche ‘terza ondata della digital era governance’ (Mejer et al. 2021; Dunleavy & Margetts 2023) realizzi, perlomeno in parte, le aspettative riposte in queste innovazioni tecnologiche. Per questo ritengo rilevante affrontare in modo critico, attraverso il ricorso a quattro parole-chiave, alcune delle problematiche che caratterizzano il dibattito sull’introduzione della IA nelle amministrazioni pubbliche: produttività, discrezionalità, equità e territorializzazione.
La prima parola-chiave è la questione della produttività. Mentre l’introduzione della digitalizzazione non sempre ha portato a miglioramenti di efficienza nel settore pubblico (ad es. nel settore giudiziario i risultati sono stati fino ad oggi poco significativi, pur se si sono registrati alcuni esiti in termini di qualità dei processi di lavoro), vi sono forti aspettative riposte nelle applicazioni basate su Data Science e IA. Nonostante alcune posizioni mettano in guardia dall’eccesso di ottimismo (es. Acemoglu and Johnson 2023), le aspettative su una serie di settori appaiono basate su elementi fondati. In primo luogo, potrebbero essere ottenuti miglioramenti sensibili in tutte le attività di tipo ripetitivo, come la gestione di email e posta certificata; oppure quale supporto alle decisioni che riguardino il tipo di servizio più idoneo rispetto ai bisogni degli utenti. Ad esempio, Inps utilizza già il machine learning per smistare i messaggi ricevuti dai cittadini ai vari dipartimenti, oppure per associare al profilo dei richiedenti i percorsi di attivazione al lavoro più coerenti. Le chatbot possono ricercare documenti una enorme quantità di dati archiviati sotto diversa forma, sia se interrogati da funzionari pubblici o da cittadini. Un altro caso è costituito dai sistemi di ricerca documentale basati su data lake, che attraverso cui sistemi di arricchimento semantico e di machine learning permettono il recupero di qualsiasi tipo di materiale in tempi rapidi e con una precisione superiore rispetto alle precedenti modalità; una sperimentazione di questo tipo è in atto nel mondo giudiziario; si pensi inoltre ai sistemi di riconoscimento biometrico (es. riconoscimento facciale) utilizzati negli aeroporti ma non solo (cfr. Leonardi e Boscaro 2024).
La seconda parola-chiave riguarda il tema della discrezionalità. È noto il dibattito sulle difficoltà di diversi interventi pubblici nell’ottenere una attuazione coerente, a causa dell’ampia discrezionalità delle cosiddette ‘burocrazie a livello di strada’. Una discrezionalità necessaria per personalizzare i servizi in relazione ai bisogni dei beneficiari e per adattarli ai diversi contesti. Tuttavia, al di là dei comportamenti opportunistici delle burocrazie sottolineati dalla letteratura, ciò che spesso emerge sono le significative differenze nelle scelte espresse dagli operatori pubblici pur in presenza di caratteristiche simili dei casi da giudicare; divergenze che caratterizzano i medesimi decisori su casi trattati in tempi successivi, o che emergono dalle comparazioni tra diversi operatori (cfr. il concetto di ‘noise’ attribuito da Kahneman (Kahneman et. al. 2021) a queste situazioni di eccessiva disparità). L’IA può offrire allora soluzioni in grado di aumentare i livelli di uniformità, attraverso applicazioni di decision-making automatico (ADM – Algorithmic Decision-Making), basate su algoritmi in grado di apprendere e così migliorare nel tempo i loro risultati. Si pensi alle applicazioni della cosiddetta giustizia predittiva, all’utilizzo nelle politiche attive del lavoro per associare le caratteristiche dei disoccupati con opportunità formative e di lavoro, alle diagnosi (anche di tipo predittivo) in campo medico, alle analisi di coerenza in campo fiscale (ISA Fiscal Reliability Index), ecc. (cgr. Gillingham et al. 2024; Margetts et al. 2024).
L’irruzione rapida della IA nei processi decisionali relativi a servizi e politiche pubbliche pone immediatamente il problema della terza parola-chiave, quella dell’equità. In primo luogo, come è stato ampiamento discusso sia in letteratura che su quotidiani e social networks, in diverse occasioni le soluzioni di supporto alle decisioni basate su algoritmi hanno prodotto esiti discriminatori oppure limitazioni alla tutela della privacy; ad esempio, in casi di utilizzo di applicazioni da parte delle forze dell’ordine e del sistema giudiziario negli Stati Uniti, che hanno evidenziato l’esigenza di trasparenza nel disegno degli algoritmi e sui risultati delle applicazioni (cfr. il tema del passaggio da discrezionalità delle burocrazie a discrezionalità automatizzata in Zouridis et al. 2020). Una seconda dimensione riguarda le modalità attraverso cui può venire perseguita una maggiore produttività del settore pubblico (e di quello privato); se, come in molte occasioni è stato evocato, lo sviluppo dell’IA dovesse condurre all’espulsione di lavoratori e professionisti dal mercato del lavoro e al loro rimpiazzo con la tecnologia, il risultato sarebbe costituito dall’aumento delle diseguaglianze. Mentre, al contrario, l’obiettivo dovrebbe essere diretto alla individuazione di compiti a maggiore valore aggiunto in grado di aumentare la produttività marginale e contribuire a effetti di progresso (Acemoglu & Johnson 2023). Infine, una terza dimensione riguarda il problema dell’accesso alle nuove soluzioni di IA e di riduzione del digital divide e della digital illiteracy, che riguarda ancora diverse categorie di cittadini e imprese, così come di territori.
Il complesso di questi fattori introduce la quarta parola-chiave, quella della territorializzazione, che riguarda un indirizzo per le politiche di sviluppo delle applicazioni di IA per il settore pubblico; una della caratteristiche dell’evoluzione delle tecnologie digitali è costituita dall’aumento delle esigenze di integrazione verticale tra le amministrazioni pubbliche, con una maggiore rilevanza assunta dal livello statale (si pensi alle piattaforme pubbliche, al cloud, alla cybersecurity), senza che tuttavia perdano di importanza le amministrazioni locali e i servizi a contatto diretto con i cittadini (cfr. Dunleavy & Margetts 2023). Lo sviluppo della digitalizzazione richiede nuovi modelli di governance per garantire una diffusione equilibrata delle innovazioni in atto, anche per permettere alle amministrazioni meno attrezzate (in particolare i piccoli comuni) di potersi agganciare all’evoluzione che già caratterizza molte delle grandi e medie città (cfr. Di Giulio e Vecchi 2023). In questa direzione, l’adozione di programmi basati sull’idea dello sviluppo territoriale e non solo di alcune specifiche amministrazioni diventa decisivo sia in termini di accessibilità alle nuove tecnologie che di contributo ai livelli di benessere e di coesione socio-economica.
La lettura integrate dei fenomeni collegati a queste quattro parole-chiave porta ad alcune considerazioni conclusive. Innanzitutto, l’esigenza di un orientamento ‘pro-human’ che lo sviluppo e l’adozione delle applicazioni di IA dovrebbero perseguire, in modo tale che siano utilizzate per finalità complementari alle persone, lavoratori e cittadini indistintamente (Acemoglu & Johnson 2023). Infine, un decisivo fattore per l’introduzione e l’utilizzo dei sistemi di IA nel settore pubblico è costituito dalla formazione continua. La letteratura in argomento richiama in modo costante il fatto che il ritardo di sviluppo della digitalizzazione nelle organizzazioni pubbliche dipende in molti casi dalla difficoltà del personale di competenze digitali di base unite alla comprensione circa l’utilizzo appropriato delle applicazioni. Considerando le criticità connesse alle soluzioni algoritmiche, sopra richiamate, gli interventi sulle capacità amministrative in termini generali e sul potenziamento delle competenze specialistiche interne e in house diventano allora decisive.
Riferimenti
Acemoglu D. & S. Johnson. 2023. “Rebalancing AI”. International Monetary Fund – Finance and Development, December, pp. 26-29.
Di Giulio M. & G. Vecchi. 2023. “How “institutionalization” can work. Structuring governance for digital transformation in Italy”. Review of Policy Research 30:406-432, DOI: 10.1111/ropr.12488.
Dunleavy P. & H. Margetts. 2023. “Data science, artificial intelligence and the third wave of digital era governance”. Public Policy & Administration, DOI Foundation.
Gillingham C., J. Morley & L. Floridi. 2024. “The Effects of AI on Street-Level Bureaucracy: A Scoping Review”. Centre for Digital Ethics (CEDE) Research Paper, Available at SSRN.
Kahneman D., O. Sibony & C.Sunstein. 2021. Rumore. Un difetto del ragionamento umano. Torino: UTET.
Leonardi M. e A. Boscaro. “L’IA nella PA”. Il Foglio, edizione del 27 settembre 2024.
Margetts H., C. Dorobantu & J. Bright. 2024. “How to Build Progressive Public Services with Data Science and Artificial Intelligence”. The Political Quarterly.
Meijer A., L. Lorenz & M. Wessels. 2021. “Algorithmization of Bureaucratic Organizations: Using a Practice Lens to Study How Context Shapes Predictive Policing Systems”. Public Administration Review, 81(5): 837–846.
Zouridis S., M. van Eck & M. Bovens. 2020. “Automated Discretion”. In T. Evans & P. Hupe (eds.), Discretion and the Quest for Controlled Freedom. Cham: Palgrave, pp. 313-329.
Percorso formativo ottobre 2024
Change management e trasformazione digitale nelle amministrazioni pubbliche italiane
Alla sua seconda edizione torna l'offerta congiunta di FPA e POLIMI GSOM: una proposta didattica studiata per le pubbliche amministrazioni che innovano. L'intero percorso formativo durerà 5 mesi per un totale di 60 ore di didattica in sincrono a distanza. Il corso si propone di delineare le direttrici della trasformazione digitale nel settore pubblico alla luce dei programmi dell’Agenda digitale e del PNRR, così come delle trasformazioni in atto (intelligenza artificiale, piattaforme, cloud, cybersicurezza). Gli interessati possono collegarsi alla pagina del corso per avere tutti i dettagli e, dalla sezione del sito "ammissioni", seguire le istruzioni su come iscriversi attraverso la piattaforma dedicata alle Application.
21 Novembre 2024