Lo scopo è proteggere i bambini dai contenuti che violano le norme
Arriverà nel Regno Unito la funzione di sicurezza di Apple che utilizza la tecnologia AI per scansionare i messaggi inviati da e verso gli iPhone dei bambini (o usati da loro con un account dedicato sul telefono dei più grandi). La funzione, denominata “sicurezza delle comunicazioni nei messaggi”, consente ai genitori di attivare avvisi per gli iPhone dei propri figli. Se abilitata, tutte le foto inviate o ricevute dal bambino utilizzando l’app Messaggi verranno scansionate per rilevare contenuti di nudo. Ricevuto uno di questi, il sistema renderà la foto sfocata e il bambino verrà avvisato che potrebbe contenere contenuti sensibili e spinto verso risorse provenienti da gruppi di sicurezza. Se l’AI trova nudità nelle foto inviate da un bambino, si attivano protezioni simili e il bambino è incoraggiato a non inviare le immagini, con un’opzione per “Inviare un messaggio ad un adulto”.
Tutta la scansione viene eseguita “sul dispositivo”, il che significa che le immagini vengono analizzate dall’iPhone stesso e Apple non vede mai né le foto analizzate né i risultati delle analisi. Come ha affermato l’azienda: “Il software analizza gli allegati delle immagini e determina se una foto contiene nudità, pur mantenendo la crittografia end-to-end dei messaggi. La funzione è progettata in modo che nessuna indicazione del rilevamento di nudità lasci mai il dispositivo”. Apple ha abbandonato diverse opzioni controverse dall’aggiornamento prima del rilascio. Nel suo annuncio iniziale, la società aveva suggerito che i genitori sarebbero stati automaticamente avvisati se bambini piccoli, di età inferiore ai 13 anni, avessero inviato o ricevuto tali immagini; nella versione finale, quegli avvisi non sono menzionati. L’azienda sta inoltre introducendo una serie di funzionalità volte a intervenire quando si cercano contenuti relativi allo sfruttamento minorile in Spotlight, Siri o Safari.
