Vietati sulla piattaforma anche i contenuti sessualmente espliciti creati con l’intelligenza artificiale
Discord ha aggiornato la sua politica intesa a proteggere i bambini e gli adolescenti sulla piattaforma, dopo che sono emersi rapporti secondo cui qualcuno ha utilizzato l’app per creare e diffondere materiali pedopornografici e per adescare giovani. La piattaforma ora vieta esplicitamente contenuti “fotorealistici” che possono essere illegali e generati dall’intelligenza artificiale. Come riportato di recente dal Washington Post, l’aumento dell’IA generativa ha portato all’esplosione di immagini realistiche con rappresentazioni sessuali di bambini. La pubblicazione aveva visto conversazioni sull’uso di Midjourney – un’intelligenza artificiale generativa da testo a immagine su Discord – per creare immagini inappropriate di minori. Oltre a vietare il cosiddetto CSAM child sexual abuse materials generato dall’intelligenza artificiale, Discord ora proibisce esplicitamente anche qualsiasi altro tipo di testo o contenuto multimediale che sessualizzi i bambini.
La piattaforma ha vietato anche i server di incontri per adolescenti e ha promesso di agire contro gli utenti che adottano questo comportamento. Una precedente indagine di NBC News ha scoperto che i server Discord pubblicizzati come server di incontri per adolescenti con partecipanti che sollecitavano immagini di nudo da minori. Gli adulti erano stati precedentemente perseguiti per aver adescato bambini su Discord, e ci sono persino gruppi criminali che estorcono a utenti minorenni immagini esplicite ricattandoli. Vietare completamente i server di incontri per adolescenti potrebbe aiutare a mitigare il problema. Discord ha anche incluso una linea nella sua politica, in cui si afferma che gli adolescenti più grandi che si trovano ad adescare più giovani saranno “esaminati ed eventualmente perseguiti in base alla condotta e alla politica”. Oltre ad aggiornare le sue regole, Discord ha recentemente lanciato lo strumento Family Center che i genitori possono utilizzare per tenere d’occhio l’attività dei propri figli sul servizio di chat. Sebbene i tutori non saranno in grado di vedere i contenuti effettivi dei messaggi dei loro figli, lo strumento di opt-in li consentirà di ottenere la cronologia degli amici dei figli e di coloro con cui hanno chattato online.
