L’algoritmo buono contro l’odio online

L’algoritmo buono contro l’odio online
  • 122
  •  
  •  
  •  
  •  
  •  
  •  
    122
    Shares

L’odio è un diritto? Vero è che l’odio genera odio e, per come è il Web, l’odio crea traffico, quindi movimento economico, profitto, quindi consenso. L’odio online è complesso, ma l’intelligenza artificiale ci aiuterà a combatterlo in rete, disinnescando i gruppi di propaganda violenta

Ogni giorno i media ci riferiscono storie di odio politico, religioso, razziale perpetrato online. Ogni giorno dai media apprendiamo di accadimenti legati a discorsi d’odio discriminatorio, di casi di cyberbullismo e di cyberstalking, senza dimenticare, ancora, tutte le forme d’istigazione e di propaganda violenta, che si scatenano in Rete e la pervadono, nei modi più disparati, in maniera più o meno esplicita. Quello cui assistiamo è dunque un fenomeno in progressiva ascesa, che non risparmia nessun angolo del mondo.

L’odio online non differisce nella sostanza dall’odio che si scatena per le strade. Tuttavia, alcuni aspetti che caratterizzano l’hate speech online sembrano sui generis. In realtà, essi derivano dal mezzo utilizzato per veicolarlo: il Web. La massima diffusione, la velocità, la permanenza, la facilità di condivisione e la transnazionalità, che rende ardua la risposta giurisdizionale, sono ciò che di fisiologico caratterizza la Rete. Con tale affermazione si intende cioè anche ribadire che essa non è la matrice dell’odio che contiene. I fattori di complessità del fenomeno rendono estremamente insidioso il terreno di scontro e sfiancante la battaglia, soprattutto nei casi delle forme d’odio più subdole, mentre al contempo si discute di come risulti problematico distinguere le parole d’odio dal diritto di manifestare liberamente la propria opinione, di esercitare il diritto di critica di fare satira. Basti pensare ai testi che accompagnano i meme che circolano su Facebook. Ci si imbatte in questo genere di post, per esempio, soprattutto quando si verificano eventi in grado di calamitare l’attenzione degli utenti e di stimolare dibattiti alquanto veementi fra Weltanschauung diverse, spesso opposte, all’interno di quella che è stata definita da Yochai Benkler la nuova sfera pubblica.

Tuttavia, come testimoniato dai numerosi fatti di cronaca degli ultimi anni, le conseguenze che l’odio online è in grado di provocare sulla vita delle persone possono avere esiti persino letali. Se l’odio online è dunque qualcosa di estremamente potente, pericoloso e multiforme è chiaro come le necessarie azioni d’individuazione, monitoraggio, mappatura, contrasto, rimozione di tali contenuti abbiano finito col far intravedere nell’impiego di algoritmi la soluzione migliore possibile. Si pensi, in particolare, agli algoritmi capaci di eseguire l’analisi semantica automatizzata e corretta dei discorsi d’odio in Rete. Tecniche di “sentiment analysis” per il rilevamento delle espressioni d’odio, su Twitter per esempio, il modello “bag of words”, adottato in unione a sistemi di classificazione e ad altri tipi di algoritmi per l’odio cosiddetto embedded, lo sfruttamento algoritmico dei big metadata, sono alcuni degli esempi di tentativi concreti già esperiti nelle varie modalità di approccio al problema.

La strada intrapresa, soprattutto con riferimento alle possibilità di raggiungere gradi sempre più raffinati d’esame automatizzato, non solo sui singoli termini d’odio e del loro contesto, ma anche al fine di estendere l’impiego di questi algoritmi semantici “esperti” per individuare intere community di haters e determinarne l’effettiva pericolosità sociale, è incoraggiante, nonostante le notevoli e indubbie difficoltà di favorire l’interpretazione non errata di alcuni discorsi violenti in maniera automatizzata. Così, se da un lato stiamo guardando con massima rabbia e sospetto agli algoritmi di Cambridge Analytica, è forse ancora possibile recuperare la fiducia verso la medesima tecnologia e il suo potenziale positivo, per esempio, contro la proliferazione dell’odio online? D’altronde, gli algoritmi oggi plasmano il mondo intorno a noi e dentro di noi e non cesseranno mai di rispondere nel bene e nel male a chi li crea.

Leggi anche:  Symantec, il nuovo perimetro dell’informazione digitale

Federica Bertoni docente CLUSIT


  • 122
  •  
  •  
  •  
  •  
  •  
  •  
    122
    Shares
Categorie: Sicurezza