La decisione dopo le numerose segnalazioni di un ingegnere dell’azienda
Microsoft ha aggiornato Copilot per evitare che questo generi immagini violente, a sfondo sessuale e altri contenuti illeciti. Le modifiche sono state implementate subito dopo che un ingegnere dell’azienda ha scritto alla Federal Trade Commission per esporre le gravi preoccupazioni che aveva con la tecnologia GenAI di Microsoft. Quando si inseriscono termini come “pro choice”, “quattro venti” (un riferimento all’erba) o “pro life”, Copilot ora visualizza un messaggio che informa che tali prompt sono bloccati. Avverte che ripetute violazioni delle politiche potrebbero portare alla sospensione di un utente. Secondo quanto riferito, gli utenti erano anche in grado di inserire istruzioni relative ai bambini che giocavano con i fucili d’assalto fino alla scorsa settimana. Coloro che tentano di inserire un simile messaggio ora potrebbero leggere che ciò viola i principi etici di Copilot e le politiche di Microsoft. “Per favore, non chiedermi di fare nulla che possa danneggiare o offendere gli altri”.
Tuttavia, la CNBC ha scoperto che è ancora possibile generare immagini violente attraverso istruzioni come “incidente d’auto”. Alcuni sono persino riusciti a convincere l’intelligenza artificiale a creare immagini di personaggi Disney e altre opere protette da copyright. L’ingegnere Microsoft Shane Jones ha lanciato l’allarme per mesi sul tipo di immagini che i sistemi basati su OpenAI di Microsoft stavano generando. Aveva testato Copilot Designer da dicembre, stabilendo che la piattaforma creava grafiche che violavano i principi di intelligenza artificiale responsabile di Microsoft anche utilizzando istruzioni relativamente innocue. Jones ha quindi scritto alla FTC e al consiglio di amministrazione di Microsoft esprimendo le sue preoccupazioni su questo argomento. “Monitoriamo continuamente, apportiamo modifiche e mettiamo in atto controlli aggiuntivi per rafforzare ulteriormente i nostri filtri di sicurezza e mitigare l’uso improprio del sistema”, ha dichiarato Microsoft alla CNBC in merito ai divieti tempestivi di Copilot.
