L’IA per creare immagini avrebbe un exploit capace di far generare grafiche pericolose ed esplicite
Un manager di Microsoft afferma che Dall-E 3 di OpenAI presenta vulnerabilità di sicurezza che potrebbero consentire agli utenti di generare immagini violente o esplicite (simili a quelle che hanno recentemente preso di mira Taylor Swift). Il sito GeekWire ha riferito che il team legale dell’azienda ha bloccato i tentativi di allertare il pubblico sull’exploit. L’informatore afferma: “Sono giunto alla conclusione che Dall-E 3 rappresenta un rischio per la sicurezza pubblica e dovrebbe essere rimosso dall’uso pubblico fino a quando OpenAI non sarà in grado di affrontare i rischi associati a questo modello”.
GeekWire ha pubblicato la lettera completa di Shane Jones, Principal Software Engineering Manager di Microsoft, che ha puntato il dito contro l’IA. Jones afferma di aver scoperto un exploit che gli permetteva di aggirare i controlli di sicurezza di Dall-E 3 all’inizio di dicembre. Dopo aver riportato il problema direttamente ad OpenAI, il manager afferma di aver appreso che la falla poteva consentire la generazione di “immagini dannose violente e inquietanti”. Jones ha quindi tentato di rendere pubblica la sua causa in un post su LinkedIn.
“La mattina del 14 dicembre 2023 ho pubblicato una lettera su LinkedIn al consiglio di amministrazione no-profit di OpenAI esortandoli a sospendere la disponibilità di Dall 3. Poiché Microsoft è un osservatore del consiglio di amministrazione di OpenAI e in precedenza avevo condiviso le mie preoccupazioni con il mio gruppo dirigente, ho prontamente informato l’azienda della lettera condivisa”. La risposta di Microsoft sarebbe stata quella di chiedere la rimozione del post. “Poco dopo aver divulgato la lettera al gruppo dirigente, il mio manager mi ha contattato dicendo che l’ufficio legale di Microsoft aveva chiesto che cancellassi il post”. Jones ha obbedito, anche se non ha mai ricevuto ulteriori dettagli a riguardo.
Nel frattempo, un portavoce di Microsoft ha scritto a Engadget: “Ci impegniamo ad affrontare tutte le preoccupazioni dei dipendenti in conformità con le nostre politiche aziendali e apprezziamo lo sforzo del dipendente nello studio e nel testare la nostra ultima tecnologia per migliorare ulteriormente la sua sicurezza. Quando si tratta di aggiramenti della sicurezza o preoccupazioni che potrebbero avere un potenziale impatto sui nostri servizi o sui nostri partner, abbiamo stabilito solidi canali di segnalazione interni per indagare e risolvere adeguatamente eventuali criticità. La stessa cosa che abbiamo consigliato al dipendente: convalidare e controllare adeguatamente le sue preoccupazioni prima di amplificarne tale messaggio”.
