Hate speech e IA: serve un approccio umanistico alla trasformazione digitale. Roberto Bortone al FORUM PA POP

Le manifestazioni di odio, aggressività e razzismo sono sempre più diffuse in rete e i contenuti dichiaratamente ostili o violenti tendono ad essere normalizzati. Disintermediazione e rivoluzione digitale sono intervenuti a modificare la formazione dell’opinione pubblica: la tecnologia e gli umori grezzi della “gente”, tra libertà d’espressione e i sentimenti più biechi (intolleranza, razzismo, odio etnico o ideologico), tutt’altro che nuovi, oggi hanno la capacità di raggiungere milioni di persone senza alcun filtro e con una velocità spaventosa. Il discorso pubblico si va dunque costruendo in assenza di qualsivoglia limitazione (o autolimitazione) che i media tradizionali hanno negli anni garantito.

Roberto Bortone – autore del libro “Molto social, troppo dark. Tra hate speech, propaganda, metaverso e intelligenza artificiale: i rischi del web oggi” – ne sa qualcosa, dal momento che da anni segue e studia questi fenomeni nella sua qualità di funzionario dell’Ufficio Nazionale Antidiscriminazioni Razziali (UNAR) presso la Presidenza del Consiglio dei Ministri. Qui coordina la Strategia Nazionale di Uguaglianza, Inclusione e Partecipazione di Rom, Sinti e Caminanti (2021-2030) e si occupa del contrasto ai fenomeni discriminatori nei media e su internet. Per UNAR ha partecipato ai lavori della Commissione Europea che hanno portato all’adozione del Codice di Condotta europeo per il contrasto ai discorsi d’odio online e, nel 2020, è stato eletto membro del Committee of Expert on Combating Hate Speech (ADI-MIS) del Consiglio d’Europa. Lo abbiamo intervistato negli studi di FORUM PA POP a FORUM PA 2024, condividendo riflessioni profonde sull’evoluzione di internet, partendo dai suoi albori negli anni ’90, quando si credeva che avrebbe unito i popoli e democratizzato l’informazione.

Alla luce delle innumerevoli ricerche condotte negli anni, tra cui la più recente lo ha portato ad analizzare oltre 300 contenuti di odio reperiti sul web, Bortone ci propone una lettura ricca e sfaccettata di un tema di grande attualità, cioè l’impatto delle evoluzioni tecnologiche sull’espressione online, di cui scandaglia le molteplici interrelazioni (con la dimensione economica, politica, psicologica, per citarne alcune) conducendo un lavoro mastodontico di approfondimento attraverso il quale ha esaminato i presupposti teorici e interpretativi che lo hanno guidato nella lettura dei risultati di ricerca.

Nel corso dell’intervista, Bortone ha citato il concetto di villaggio globale così come l’aveva immaginato Marshall McLuhan e una celebre frase attribuita al sociologo Geert Lovink: “Agli inizi, era internet che cambiava il mondo. Oggi è il mondo che sta cambiando internet”. Bortone ha sottolineato come questa trasformazione abbia portato a un dibattito continuo sull’impatto del web, evidenziando che internet non è solo uno strumento, ma una piattaforma plasmata dagli utenti stessi, con tutte le conseguenze positive e negative che ne derivano. Un esempio emblematico fornito da Bortone è quello di Ronald Reagan, che nel 1989 elogiava internet come mezzo per unire i popoli dove la diplomazia aveva fallito. Tuttavia, oggi assistiamo a una privatizzazione della rete, con alcune compagnie che hanno colonizzato spazi significativi, facendo dimenticare l’idea iniziale di un web libero.

Oltre alla disintermediazione e alla rivoluzione digitale, c’è dunque un altro elemento che secondo Bortone è intervenuto a modificare la formazione dell’opinione pubblica: si tratta del modello di business delle piattaforme, che incidono in modo determinante sulla propagazione dei contenuti. La valanga di parole aggressive e cariche di odio che noi consideriamo spazzatura, per chi guadagna con il traffico sul web sono pura manna: «La “pancia” dell’umanità può piegare le dinamiche e gli algoritmi del web con una facilità impressionante, gettando benzina sulle contrapposizioni e sui risentimenti, incendiando le parole e i pensieri», scrive Impagliato nell’introduzione del libro.

E l’autore cita nel libro una espressione attribuita a Simon Wiesenthal, «il connubio di odio e di tecnologia è il massimo pericolo che sovrasti l’umanità», per evidenziare come il processo di digitalizzazione della società avviato a partire dagli anni ’90 è incrementale, inarrestabile e dalle potenzialità nefaste.

Alla domanda sulla consapevolezza delle nuove generazioni riguardo alla storia di internet, Bortone ha espresso preoccupazione per la mancanza di consapevolezza non solo tra i giovani, ma anche tra chi ha vissuto le trasformazioni digitali senza accorgersene. Ha evidenziato la necessità di un approccio umanistico alle trasformazioni tecnologiche, citando sociologi, antropologi e filosofi per sottolineare come la discussione sull’intelligenza artificiale debba includere una riflessione sulle profonde trasformazioni etiche della società.

L’introduzione progressiva dell’AI generativa, poi, complica il quadro: nella misura in cui sfruttano i bias comportamentali e le echo-chambers comunicative di chi naviga il web per indirizzarlo verso specifici contenuti, gli algoritmi finiscono con il riprodurre ciò che trovano amplificandolo. Così la rete si autoalimenta, generando e diffondendo nuovo hate speech.

Ma dobbiamo abbandonarci ad una visione catastrofista di chi, spaventato dall’innovazione e timoroso di non saperla indirizzare in modo eticamente corretto e costruttivo, tenta di limitarne l’impatto, come se si potesse arginare il mare? Quale può essere la strada da perseguire per governare questo fenomeno, allora? Limitare l’innovazione digitale e l’uso dell’intelligenza artificiale? Imbrigliarla, addomesticarla – o in inglese harness – come si sente sempre più spesso?

Certamente è indispensabile governare l’innovazione: appare evidente che il progressivo ricorso di soluzioni di IAgen debba essere contestualizzato all’interno di un quadro di principi, norme e valori condivisi. Ma bisogna intervenire anche attraverso azioni educative e culturali, in nome dell’approccio umanistico invocato dall’autore.

Bortone ha parlato del ruolo cruciale della pubblica amministrazione nel fronteggiare questi fenomeni non solo attraverso la dimensione regolatoria e sanzionatoria, ma anche incentivando diverse alternative. Ha infatti ribadito l’importanza dell’educazione al digitale e della media literacy per tutte le generazioni, sottolineando la necessità di sviluppare strumenti educativi adeguati, per non lasciare indietro nessuno nella rivoluzione digitale.

Il web, dunque, può rappresentare anche uno spazio in cui coltivare gli ‘anticorpi’ per questo fenomeno. Attraverso i social network quelli che un tempo erano unicamente utenti sono oggi anche produttori di contenuti, e in quanto tali suscettibili di essere educati, guidati verso la possibilità di proporre una narrazione, una lettura della realtà, alternativa a quella impregnata d’odio.

Bisogna allora sapersi muovere tra la visione anglosassone del “libero pensiero in libero mercato”, del “more speech against hate speech”, e quella eurocentrica del “vietare” l’odio, del rimuoverlo, sanzionarlo. Si tratta di adottare un insieme di misure che contemperano la promozione della media literacy (o awareness) e l’elaborazione di codici etici o di condotta.

Le nuove dinamiche dell’accesso al digitale hanno profondamente cambiato il concetto stesso di digital divide: oggi questo fattore non può più essere misurato semplicemente calcolando la percentuale della popolazione connessa, ma è determinato dal bagaglio di competenze degli utenti della rete, che determina tanto la capacità di sfruttare tutte le potenzialità che essa dischiude in termini di accesso (a servizi, opportunità, informazioni affidabili) quanto il tenore dei contenuti prodotti e immessi in rete.

Promuovere la cosiddetta media education diventa allora un fattore determinante direttamente legato alla partecipazione e in ultima analisi alla democrazia.