Cos’è Rosetta, l’AI di Facebook per combattere gli abusi

AI Rosetta di facebook combatte gli abusi
Rosetta analizzza miliardi di foto ogni giorno

Zuckerberg svela lo strumento che riesce ad analizzare miliardi di foto ogni giorno, in automatico, per estrapolare testi e significati contestuali

Sono almeno due le sfide che Facebook deve affrontare ogni giorno: il bullismo e le fake news. Entrambi si traducono in contenuti che vagano per la rete, spesso incontrollati, e che possono raggiungere migliaia di persone prima che i team addetti si accorgano degli abusi ed eliminino i post dalle bacheche. Ed è per questo che Zuckerberg, da anni, ha messo a punto un laboratorio in cui si lavora allo sviluppo di piattaforme intelligenti di computer vision, utili a supportare il lavoro dell’uomo nel monitoraggio di ciò che può o non può essere pubblicato online.

Che la tecnologia debba essere affinata è apparso chiaro più volte nel tempo; ad esempio quando gli algoritmi censurano opere d’arte perché mostrano parti del corpo oppure foto storiche, ree di diffondere la pedo-pornografia (è il caso dell’immagine che ritrae Kim Phuc, la bambina di nove anni che scappa da un attacco al napalm durante la guerra in Vietnam).

Ci siamo vicini

Ma di recente Mr. Zuck è arrivato a uno snodo cruciale dell’analisi visivo-semantica dei post e lo ha comunicato in settimana quando ha parlato di Rosetta. Si tratta di una piattaforma che sta aiutando i team di Facebook e Instagram a identificare testi all’interno delle immagini, per capire meglio il loro contesto e classificarle più facilmente nell’ottica di segnalare e contrassegnare i contenuti offensivi. Il tool esegue miliardi di scansioni al giorno su foto e video, in più lingue e in tempo reale, avvalendosi dei progressi fatti nel campo del riconoscimento ottico dei caratteri (OCR) e della comprensione profonda dell’ambito di riferimento, il che dovrebbe eliminare per sempre gli spiacevoli inconvenienti di censura di cui sopra.

Sul proprio blog, Facebook ha spiegato il funzionamento di Rosetta. Il primo passo è evidenziare regioni rettangolari nelle immagini che potenzialmente contengono del testo. Successivamente, tramite una rete neurale convoluzionale (cioè capace di correggere in automatico gli errori), il sistema riconosce e trascrive ciò che trova nella regione, anche parole in lingua straniera e con caratteri non latini, come l’arabo e l’hindi. Per addestrare il sistema, Facebook ha usato un mix di foto pubbliche con annotazioni umane e meccaniche. Il risultato è che alcune divisioni dei social della casa, tra cui Instagram, stanno già utilizzando Rosetta per velocizzare il controllo dei post e agire più celermente nel caso di abusi e offese.

Leggi anche:  Google Assistant ruba spazio a Siri sfruttando una disattenzione di Apple