Cos’è Rosetta, l’AI di Facebook per combattere gli abusi

AI Rosetta di facebook combatte gli abusi
Rosetta analizzza miliardi di foto ogni giorno

Zuckerberg svela lo strumento che riesce ad analizzare miliardi di foto ogni giorno, in automatico, per estrapolare testi e significati contestuali

Sono almeno due le sfide che Facebook deve affrontare ogni giorno: il bullismo e le fake news. Entrambi si traducono in contenuti che vagano per la rete, spesso incontrollati, e che possono raggiungere migliaia di persone prima che i team addetti si accorgano degli abusi ed eliminino i post dalle bacheche. Ed è per questo che Zuckerberg, da anni, ha messo a punto un laboratorio in cui si lavora allo sviluppo di piattaforme intelligenti di computer vision, utili a supportare il lavoro dell’uomo nel monitoraggio di ciò che può o non può essere pubblicato online.

TI PIACE QUESTO ARTICOLO?

Iscriviti alla nostra newsletter per essere sempre aggiornato.

Che la tecnologia debba essere affinata è apparso chiaro più volte nel tempo; ad esempio quando gli algoritmi censurano opere d’arte perché mostrano parti del corpo oppure foto storiche, ree di diffondere la pedo-pornografia (è il caso dell’immagine che ritrae Kim Phuc, la bambina di nove anni che scappa da un attacco al napalm durante la guerra in Vietnam).

Ci siamo vicini

Ma di recente Mr. Zuck è arrivato a uno snodo cruciale dell’analisi visivo-semantica dei post e lo ha comunicato in settimana quando ha parlato di Rosetta. Si tratta di una piattaforma che sta aiutando i team di Facebook e Instagram a identificare testi all’interno delle immagini, per capire meglio il loro contesto e classificarle più facilmente nell’ottica di segnalare e contrassegnare i contenuti offensivi. Il tool esegue miliardi di scansioni al giorno su foto e video, in più lingue e in tempo reale, avvalendosi dei progressi fatti nel campo del riconoscimento ottico dei caratteri (OCR) e della comprensione profonda dell’ambito di riferimento, il che dovrebbe eliminare per sempre gli spiacevoli inconvenienti di censura di cui sopra.

Leggi anche:  Alla ricerca della convergenza digitale

Sul proprio blog, Facebook ha spiegato il funzionamento di Rosetta. Il primo passo è evidenziare regioni rettangolari nelle immagini che potenzialmente contengono del testo. Successivamente, tramite una rete neurale convoluzionale (cioè capace di correggere in automatico gli errori), il sistema riconosce e trascrive ciò che trova nella regione, anche parole in lingua straniera e con caratteri non latini, come l’arabo e l’hindi. Per addestrare il sistema, Facebook ha usato un mix di foto pubbliche con annotazioni umane e meccaniche. Il risultato è che alcune divisioni dei social della casa, tra cui Instagram, stanno già utilizzando Rosetta per velocizzare il controllo dei post e agire più celermente nel caso di abusi e offese.