Instagram ha addestrato il machine learning per realizzare un sistema di identificazione di messaggi e foto associate al cyberbullismo
Instagram aumenta i suoi sforzi per combattere il cyberbullismo sulla propria piattaforma. Il social network ha annunciato di aver lavorato per utilizzare il machine learning per rilevare quei contenuti di natura violenta o che violano le sue policy di utilizzo. Fino ad oggi il servizio di proprietà di Facebook permetteva agli utenti di segnalare quelle immagini o messaggi che ritenevano offensivi. Successivamente l’azienda si faceva carico della richiesta e nel caso provvedeva alla loro rimozione. Oggi oltre a questo sistema si aggiunge un apparato di identificazione automatica basato sull’intelligenza artificiale. Per quanto riguarda la valutazione finale in merito alla cancellazione del contenuto incriminato, questa spetterà sempre e comunque ad un team di esperti in carne ed ossa.
“Il cambiamento ci aiuterà a identificare e rimuovere una quota maggiore di contenuti di cyberbullismo ed è un passo cruciale, poiché molte persone che subiscono o assistono a episodi di bullismo non li segnalano. Inoltre ci aiuterà a proteggere gli utenti più giovani della comunità, dato che gli adolescenti subiscono mediamente più episodi di bullismo rispetto agli altri”, spiega in un post ufficiale Adam Mosseri, ex numero uno della Newsfeed di Facebook e oggi CEO di Instagram dopo l’addio dei co-fondatori Kevin Systrom e Mike Krieger. Il social network fotografico sembra quindi voler dare battaglia ai bulli della rete con tutte le proprie risorse ma non si può dire che ponga la stessa attenzione alla privacy dei suoi clienti. Si vocifera infatti che molto presto l’azienda condividerà con la casa madre i dati relativi alla posizione dei suoi iscritti. Proprio questo rapporto troppo stretto tra le due piattaforme potrebbe essere la causa delle dimissioni di Systrmom e Krieger. Nei giorni scorsi è inoltre arrivata la conferma che WhatsApp ha fornito a Facebook i numeri di telefono dei suoi utilizzatori per aiutarlo nel realizzare annunci pubblicitari mirati.
