Perspective è un nuovo strumento per gli editori che li aiuta a identificare e bloccare eventuali commenti violenti o volgari ai loro articoli
Internet offre ampie libertà di informarsi e commentare ma c’è anche chi abusa di questa possibilità per diffondere messaggi di odio e offensivi. Gli esempi di questa pratica sono moltissimi. Il Presidente della Camera, Laura Boldrini, ha scritto direttamente a Facebook per denunciare la mole impressionante di messaggi con hate speech presenti sul social network mentre la campionessa paralimpica Bebe Vio è stata costretta a percorrere le vie legali nei confronti di una pagina Facebook in cui si incitava a farle violenza. Google è in prima linea non solo per combattere le fake news e la pubblicità ingannevole ma anche per fermare l’odio che dilaga in Rete.
L’incubatore tecnologico Jigsaw, precedentemente conosciuto come Google Ideas, ha realizzato una nuovo software chiamato Perspective che consente agli editori di avere un maggiore controllo sulle reazioni dei lettori agli articoli e di bloccare sul nascere la pubblicazione di commenti inappropriati. Il fenomeno è molto sentito nel settore dell’informazione online esattamente come avviene per le bufale. Secondo una ricerca di Data&Society, il 72% degli americani nel 2016 è stato testimone di hate speech e di questi circa un terzo ha evitato di contribuire alla discussione per paura di incorrere in offese e insulti. Non è quindi un caso che grandi testate come il New York Times abbiano deciso di sperimentarlo.
Perspective assegna a ogni commento un punteggio in base al livello di ostilità. Grazie al machine learning il sistema è in grado di comparare messaggi simili e identificare un numero sempre maggiore di varianti di questi contenuti offensivi. Al momento la tecnologia di Google funziona solo per i commenti in lingua inglese ma già consente all’utente di sapere in tempo reale se ciò che sta scrivendo si può catalogare come hate speech. In futuro arriverà anche il supporto per altre lingue e la possibilità di identificare anche i contenuti fuori contesto e spam.
