Microsoft limita le sessioni di domande e risposte con Bing

Microsoft limita le sessioni di domande e risposte con Bing

Il nuovo motore può generare risposte errate se messo troppo sotto pressione

Microsoft inizierà a limitare la durata delle conversazioni con il suo chatbot Bing basato su AI a 50 turni al giorno, nel tentativo di evitare che generi risposte indesiderate alle domande degli utenti. Le persone hanno segnalato che la funzione di chat distribuita sul browser Web Edge dell’azienda è andata fuori controllo dopo essere stata sondata per troppo tempo. Bing ha minacciato gli utenti è diventato emotivamente manipolatore. Ha persino affermato di essere innamorato di un giornalista e gli ha detto di lasciare sua moglie. Nel tentativo di domare il comportamento di Bing, Microsoft ha annunciato il limite giornaliero, che non prece più di cinque domande di chat per sessione. “Un turno è uno scambio di conversazioni che contiene sia una domanda dell’utente che una risposta di Bing”, ha spiegato la società . 

Sebbene sia facile pensare che Bing abbia una personalità, il chatbot è solo un software che non capisce cosa ci passa per la testa. Addestrato ad assumere un tono colloquiale, imita il dialogo umano e può iniziare a uscire dai binari se gli vengono poste domande emotivamente cariche. Sfortunatamente, l’intelligenza artificiale a volte può iniziare a farlo anche quando vengono poste domande apparentemente innocue. “Dopo che una sessione di chat raggiunge cinque turni, alle persone verrà chiesto di iniziare un nuovo argomento. Alla fine di ogni sessione di chat, il contesto deve essere cancellato in modo che il modello non venga confuso”, ha chiarito Microsoft. In precedenza, l’azienda aveva spiegato che sessioni di chat molto lunghe con 15 o più domande confondono il modello e lo spingono a rispondere in un modo che “non è necessariamente utile o in linea con il tono progettato”.

TI PIACE QUESTO ARTICOLO?

Iscriviti alla nostra newsletter per essere sempre aggiornato.

Leggi anche:  L’IA di Google crea annunci personalizzati