IA generativa: spunti per un uso responsabile da parte dei dipendenti pubblici

Al momento non esistono linee guida per l’utilizzo della Generative AI in ambito pubblico per i dipendenti della PA. Prendiamo quindi spunto da quanto fatto dall’ufficio della Gestione del Personale Federale in USA per vedere quali sono le raccomandazioni e informazioni che sono state fornite al personale pubblico americano. Qui il testo originale, in questo articolo trovate una traduzione realizzata con DeepL (versione gratuita). E alle fine trarremo delle conclusioni che speriamo siano interessanti con tre semplici regole per l’uso della GenAI in ambito pubblico.

Uso responsabile dell’intelligenza artificiale generativa per la forza lavoro federale

Il termine “intelligenza artificiale” (IA), utilizzato in questa sede, si riferisce a un sistema basato su macchine in grado di formulare previsioni, raccomandazioni o decisioni. Se usata in modo responsabile, è una tecnologia potente che può migliorare le operazioni del governo federale e la fornitura di servizi. Nell’ambito del vasto campo dell’IA, l’IA generativa è una tecnologia in rapida evoluzione in grado di generare contenuti, tra cui testo, audio, immagini o video, in risposta a una richiesta o a dati di input. Comprende applicazioni di IA conversazionale (per esempio, OpenAI ChatGPT, Google Gemini, Meta LaMa, Anthropic Claude) e applicazioni di IA per la generazione di immagini (per esempio, OpenAI DALL-E, Midjourney, Stability AI Stable Diffusion, Adobe Firefly), nonché applicazioni per la generazione di parlato, video o codice di programmazione (per esempio, GitHub Copilot, Amazon CodeWhisperer). La tecnologia GenAI viene addestrata su grandi quantità di dati, che possono includere testo, immagini, audio e video disponibili pubblicamente e recuperati da Internet.

Che cosa significa per me come dipendente federale?

La GenAI ha il potenziale per migliorare il modo in cui la forza lavoro federale dà servizi per il pubblico di cittadini e imprese. I dipendenti federali possono sfruttare la GenAI per migliorare la creatività, l’efficienza e la produttività. Le agenzie e i dipendenti federali sono incoraggiati a valutare come utilizzare al meglio questi strumenti per adempiere alle loro missioni.

In qualità di dipendenti federali, dovreste considerare attentamente i benefici e i rischi dell’utilizzo di GenAI nel vostro lavoro e utilizzare questi strumenti in modo sicuro e responsabile.

Come devo usare questa pagina web?

• Per conoscere i potenziali benefici e rischi di GenAI.
• Per esplorare le migliori pratiche per utilizzare GenAI in modo sicuro e responsabile nel proprio lavoro.
• Per trovare modi per saperne di più su GenAI.

Questa pagina web non è esaustiva. È necessario esaminare e seguire le politiche e le procedure pertinenti della propria agenzia.

Questo contenuto può essere aggiornato periodicamente per tenere conto dei progressi della GenAI e dell’evoluzione delle esigenze della forza lavoro.

Potenziali benefici e rischi dell’utilizzo di GenAI

Potenziali benefici

Le applicazioni GenAI offrono alla forza lavoro federale molti vantaggi potenziali legati alla produttività e alle operazioni dell’agenzia, tra cui:

• aumentare l’efficienza di compiti manuali o ripetitivi;
• sintetizzare le informazioni, come riassumere appunti o trascrizioni di riunioni o estrarre l’idea principale o gli elementi chiave da documenti;
• brainstorming e ideazione;
• redazione e progettazione di prodotti di comunicazione, compresa la generazione di schemi o testi e immagini per relazioni, presentazioni, e-mail, web o social media;
• migliorare e perfezionare la scrittura, fornendo suggerimenti grammaticali, ortografici e stilistici e trasformando concetti complessi in un linguaggio semplice;
• traduzione di testi o servizi in altre lingue;
• migliorare l’esperienza del cittadino o impresa creando risposte personalizzate alle richieste;
• migliorare l’accessibilità attraverso funzioni quali la trascrizione di audio e video;
• accelerare lo sviluppo del software generando, spiegando o eseguendo il debug del codice o traducendo il codice da un linguaggio di programmazione a un altro;
• analizzare e ricavare approfondimenti da insiemi di dati e generare grafici.

Rischi potenziali

L’uso della GenAI presenta anche rischi potenziali che devono essere gestiti in modo che la forza lavoro federale possa sfruttare questa tecnologia in modo responsabile, tra cui:

• falsificazioni ed errori, come errori di ragionamento o testi, discorsi, immagini o video non accurati;
• plagio o violazioni del copyright;
• vulnerabilità della sicurezza degli strumenti;
• rischi per la privacy, tra cui la divulgazione involontaria di dati di formazione, suggerimenti o dati di input;
• amplificazione di contenuti parziali, iniqui o discriminatori;
• rischi legali o etici, come i contenuti generati dall’IA che incoraggiano comportamenti illegali o non etici;
• rischi per la credibilità dell’agenzia se il contenuto è impreciso, inaffidabile o discriminatorio;
• prestazioni disomogenee a seconda delle lingue, dei campi e delle applicazioni;
• uso dannoso da parte di individui esterni al governo federale per creare disinformazione, impersonare funzionari eletti o inviare spam all’agenzia.

Raccomandazioni per i dipendenti federali che utilizzano GenAI

Quando si utilizza GenAI sul posto di lavoro per svolgere attività ufficiali, ricordarsi di:

• Seguire le politiche e le procedure della propria agenzia, anche per quanto riguarda la governance dell’IA, la governance dei dati, la privacy e la sicurezza.
• Utilizzare le risorse GenAI dell’agenzia per assistere i propri compiti ufficiali e non per uso personale. Aspettatevi che il vostro uso della tecnologia GenAI possa essere registrato e monitorato.
• Consultate la vostra agenzia per conoscere l’elenco delle tecnologie GenAI approvate che possono essere utilizzate per le attività ufficiali. Seguire le direttive dell’agenzia su quando e come utilizzare la tecnologia GenAI attraverso le interfacce pubbliche (ossia tutte le applicazioni o i software che utilizzano GenAI e che sono disponibili al pubblico) o attraverso il sistema aziendale sicuro dell’agenzia, poiché esistono rischi associati a entrambi i tipi di accesso, compresi i rischi legati alla conservazione, al riutilizzo o alla divulgazione delle informazioni.
• Comprendere le eventuali restrizioni sulle informazioni che possono essere inserite nelle interfacce GenAI e inserire solo le informazioni consentite. Non inserire informazioni non pubbliche nelle interfacce GenAI pubbliche.
• Supervisionare l’uso della tecnologia GenAI. Non lasciare che la tecnologia GenAI operi autonomamente senza responsabilità e controllo umano.
• Esaminare tutti i materiali generati dall’IA, comprese le fonti citate, per verificare che siano validi, accurati, completi e sicuri.
• Verificare che il materiale generato dall’IA non contenga linguaggio o immagini potenzialmente tendenziose, dannose, stereotipate o altrimenti offensive. Non manomettere o tentare di disattivare le protezioni contro input o output non sicuri, offensivi o fuorvianti dei sistemi GenAI.
• Mantenere l’integrità ed evitare comportamenti eticamente scorretti (ad esempio, fabbricazione, falsificazione o plagio), anche in qualsiasi materiale generato dall’IA.
• Seguire la politica dell’agenzia su quando e come divulgare gli usi della GenAI (per esempio, etichette, filigrane o dichiarazioni di non responsabilità sul materiale generato dall’IA).
• Utilizzare gli strumenti GenAI solo per scopi appropriati e non per generare materiale dannoso, inappropriato o illegale, come malware, deepfakes, contenuti tossici o altro materiale considerato non adatto al lavoro.

Esempi di utilizzo di GenAI

Alcune agenzie federali utilizzano già l’IA per migliorare l’efficienza e l’efficacia operativa. Potete trovare i casi d’uso dell’IA federale segnalati dalla vostra agenzia su AI.gov. Questo inventario sarà aggiornato con i casi d’uso di GenAI man mano che le agenzie continueranno a valutare l’adozione di questa tecnologia.

Di seguito sono riportati alcuni esempi di potenziali utilizzi di GenAI che potreste incontrare nell’ambito del vostro lavoro e che forniscono ulteriori considerazioni e raccomandazioni specifiche per l’uso. Questi esempi non rappresentano una serie completa di possibili utilizzi o di raccomandazioni che i dipendenti federali dovrebbero seguire quando utilizzano GenAI.

Collaborate con il vostro supervisore e con i funzionari dell’agenzia per capire le politiche specifiche della vostra agenzia, tra cui se GenAI è appropriato per il vostro caso d’uso e quale tecnologia GenAI dovrebbe essere utilizzata.

Utilizzo di GenAI per riassumere o analizzare informazioni

Utilizzo: la tecnologia GenAI può essere utilizzata per sintetizzare le informazioni, come riassumere appunti e trascrizioni di riunioni, estrarre le idee principali da documenti (come documenti di ricerca o politiche) o analizzare dati (ad esempio, produrre statistiche o grafici riassuntivi). Può anche rispondere a domande su un particolare argomento presente nei documenti o nei dati.

Considerazioni: la tecnologia GenAI può omettere dettagli essenziali dai riassunti, creare informazioni che non sono incluse nei documenti o nei dati o includere materiali aggiuntivi dal suo set di addestramento che non sono presenti negli input di origine. La tecnologia GenAI può anche introdurre un linguaggio distorto o obsoleto durante la sintesi. Può anche essere soggetta a errori di ragionamento e matematici.

Raccomandazioni: quando si utilizza GenAI per sintetizzare informazioni o analizzare dati, è necessario:

• Esaminare l’accuratezza e la validità dei riassunti generati dall’IA per individuare e correggere potenziali problemi, tra cui inesattezze fattuali, errori di ragionamento logico o matematico e linguaggio inappropriato.
• Verificare che il riassunto dell’IA sia coerente con gli input, sia completo e non includa informazioni che esulano dall’ambito dei documenti o dei dati.
• Verificare che i contenuti generati dall’IA abbiano citazioni, riferimenti o altre attribuzioni appropriate per le informazioni utilizzate.

Utilizzo di GenAI per creare materiali di comunicazione

Utilizzo: GenAI può essere un potente strumento per sviluppare comunicazioni per vari livelli di lettura, lingue, piattaforme e pubblici. La tecnologia GenAI può essere utilizzata per redigere contenuti, sviluppare schemi, migliorare la grammatica e l’ortografia, trasformare i contenuti in linguaggio semplice, tradurre materiali in più lingue o generare risorse audio o visive.

Considerazioni: poiché i dati di addestramento della tecnologia GenAI potrebbero non rappresentare allo stesso modo le lingue non inglesi e le prospettive delle comunità meno numerose, i risultati di comunicazione generati potrebbero essere imprecisi, parziali o dannosi. Quanto generato potrebbe anche essere obsoleto, quindi il materiale prodotto dall’IA potrebbe non includere eventi o prospettive recenti.

Inoltre, l’uso della tecnologia GenAI per produrre comunicazioni potrebbe non essere appropriato per argomenti o eventi sensibili.

Raccomandazioni: quando si utilizza la tecnologia GenAI per produrre materiale di comunicazione, è necessario:

• Rivedere e verificare i contenuti prodotti dagli strumenti GenAI con esperti della materia. Ad esempio, se si traducono prodotti in un’altra lingua o per un nuovo pubblico, l’agenzia può richiedere la revisione dei materiali da parte di persone esperte in quella lingua e con conoscenza del contesto culturale.
• Selezionare testi e immagini generati dall’IA che siano rispettosi e inclusivi e verificare l’accessibilità dei prodotti finali.
• Verificare se i contenuti generati dall’IA includono materiale protetto da copyright e consultare l’ufficio legale dell’agenzia per l’utilizzo di tali materiali.
• Verificare i requisiti dell’agenzia in merito alla divulgazione dell’uso dell’IA per i materiali prodotti per il pubblico esterno e interno.

Utilizzo di GenAI per lo sviluppo di software e codice

Utilizzo: la tecnologia GenAI ha il potenziale per migliorare l’efficienza e la velocità dello sviluppo di software e codice. Ad esempio, può aiutare nella generazione, revisione, spiegazione e debug del codice di programmazione.

Considerazioni: il codice generato dall’IA può includere bug o introdurre vulnerabilità di sicurezza. Può anche introdurre nuove librerie e dipendenze, compresi pacchetti inesistenti o dannosi. Può anche prendere in prestito da codice open-source senza attribuzione.

Raccomandazioni: quando si utilizza GenAI per lo sviluppo di software o codice, è necessario:

• Verificare di avere le necessarie approvazioni dell’agenzia per la generazione e la revisione del codice con GenAI, prima di utilizzare GenAI a questo scopo. Esaminare le politiche dell’agenzia e le best practice del settore per la generazione di software e codice.
• Eseguire la revisione e il test del codice generato dall’IA prima di distribuirlo. Correggere i bug, risolvere le vulnerabilità e verificare la legittimità delle librerie e delle dipendenze generate dall’IA. Verificare che il codice generato dall’IA funzioni come previsto.
• Familiarizzare con i requisiti dell’agenzia per la documentazione e l’archiviazione del codice e per la divulgazione dell’uso di GenAI. Prestare particolare attenzione alle attività soggette a restrizioni, come il divieto di inserire codice interno (ad esempio, codice proveniente dal repository di codice aziendale di un’agenzia che non è disponibile al pubblico) in interfacce pubbliche.
• Seguire le procedure di sicurezza dell’agenzia, come ad esempio non includere password, chiavi o credenziali di sicurezza nei prompt o negli insiemi di dati inseriti nelle tecnologie GenAI.
• Seguire la politica dell’agenzia sull’utilizzo di codice open-source e rispettare i requisiti di licenza e attribuzione dell’agenzia.

Per saperne di più su questi usi e su altri a cui siete interessati, consultate il Chief AI Officer della vostra agenzia o altri funzionari che si occupano di IA.

Apprendimento e formazione continui

Si tratta di un campo in evoluzione e, man mano che ci adattiamo agli strumenti a nostra disposizione è importante rimanere aggiornati con le formazioni pertinenti. L’Office of Management and Budget (OMB), in collaborazione con la General Services Administration (GSA), ha sperimentato una formazione gratuita sull’IA per i dipendenti federali e continuerà a creare, adattare e fornire moduli di formazione sull’IA federale in collaborazione con l’OPM e in base alle esigenze delle agenzie. Come dipendenti federali, potete accedere alla formazione 2023.

Inoltre, l’Ordine Esecutivo 14110 incarica le agenzie di implementare o aumentare la disponibilità e l’uso di programmi di formazione e familiarizzazione sull’IA per i dipendenti, i manager e la leadership nel campo della tecnologia, così come nei settori politici, manageriali, di approvvigionamento, normativi, etici, di governance e legali pertinenti.

Contattate il chief human capital officer o il chief learning officer della vostra agenzia per saperne di più o per unirvi alla comunità di pratica sull’IA.

Comunità di pratica sull’IA

Se siete interessati all’IA o intendete utilizzare, gestire, sviluppare o acquistare tecnologia GenAI, siete invitati a unirvi alla Comunità di pratica sull’IA (AI CoP), aperta a tutti i dipendenti del governo federale. Questa comunità di pratica condivide regolarmente risorse, tra cui informazioni centralizzate sulla formazione.

Conclusioni

Le conclusioni sono dell’autore dell’articolo pubblicato su ForumPA e non rientrano nel documento del governo federale.

Quello che risulta evidente è che la GenAI può essere un ottimo assistente per la produzione di semilavorati, per il brainstorming o per riassumere documenti.

Del resto, serve sempre l’“human in the loop” ovvero una supervisione umana. In particolare, vorrei sottolineare l’importanza di un “expert human in the loop”. Ovvero di una figura che sia in grado di valutare quanto prodotto e analizzarne la veridicità.

Prendiamo due esempi.

Chiedo a un motore GenAI di generare un fiore. Il motore genera la foto di un cane. Sono in grado come esperto (nel senso che so distinguere fiori e cani) di valutare quanto prodotto e quindi di rifiutare l’immagine del cane. In questo caso la discriminazione è semplice.

Vediamo un altro caso: chiedo ad un motore di GenAI di riassumere un testo. Ipotizziamo che mi presenti 10 punti: se non l’ho mai letto e soprattutto non conosco la materia (non sono esperto), come faccio a sapere che sono davvero i punti salienti e che sono informazioni vere? (d’altro canto, bisogna dire che sulla summarization i motori di IA fanno veramente pochi errori e sono uno degli usi più diffusi).

Ultimo caso: non so programmare e scrivo un codice per contare quanti files ho sul mio pc. Che il risultato sia 2 milioni o 6 milioni, come posso discriminare se ha commesso errori se non so programmare? Come posso essere sicuro che abbia valutato tutte le opzioni e i casi particolari se non so scrivere codice e non ho ragionato su come avrebbe dovuto essere il codice?

Quindi la regola finale rimane: la GenAI è un ottimo assistente e come tale va gestito come se fosse un assistente umano partendo da tre piccole regole:

• attenzione a cosa produce soprattutto fino a che non ho capito dove sbaglia e dove esegue correttamente
• con l’arte della delega: capisco piano piano cosa delegargli che sia a basso rischio di errore e cosa invece è meglio delegargli ma controllare
• cosa non fargli fare perché non è in grado (o io non so dargli istruzioni corrette perché faccia quello che mi serve, ma qui serve autocritica non sempre diffusa)

Regola finale:

Usare la GenAI come valido assistente ma esaminare tutti i materiali generati dall’IA, comprese le fonti citate, per verificare che siano validi, accurati, completi e sicuri. (expert human in the loop).