Un ex di Google teme che l’IA possa scatenare una guerra

Konica Minolta avvia un progetto di robotica per la cura e l’assistenza

Sistemi armati indipendenti ci porteranno all’estinzione di massa, o qualcosa del genere, secondo Laura Nolan

Sappiamo bene quanto il mondo accademico si divida tra chi è, senza ombra di dubbio, favorevole all’ascesa delle macchine e chi, con più timore, si preoccupa per l’eccessiva intelligenza di cui queste saranno fornite. Oltre al fatto che l’automazione dei processi produttivi e e sociali ci mette sempre più in una posizione di dipendenza dall’esterno.

L’ultima voce che esprime preoccupazione è quella dell’ex di Google Laura Nolan, dimessa dall’azienda lo scorso anno per avviare un percorso professionale sull’intelligenza artificiale a servizio dei droni. Dopo aver aderito alla campagna per fermare i robot assassini e successivamente informato i diplomatici delle Nazioni Unite sull’argomento, Nolan ha affermato di recente che l’IA potrebbe avviare guerre o commettere atrocità di massa.

Cosa ha detto Nolan

«Non sto dicendo che i sistemi guidati dai missili o i sistemi di difesa antimissile debbano essere messi al bando. Dopotutto sono sotto il pieno controllo umano e qualcuno alla fine è responsabile – ha spiegato al Guardian – queste armi autonome, tuttavia, sono un cambio di passo etico oltre che tecnologico. Pochissime persone ne parlano, ma se non stiamo attenti, robot assassini, potrebbero accidentalmente iniziare una guerra lampo, distruggere una centrale nucleare e causare atrocità di massa». Uno dei maggiori problemi, spiega Nolan, è che i sistemi possono davvero essere testati solo nelle zone di combattimento, il che aumenta i problemi.

«Come si addestra un sistema che gira esclusivamente su software per rilevare il sottile comportamento umano o discernere la differenza tra cacciatori e ribelli? In che modo la macchina sa distinguere tra un terrorista armato e un cacciatore di conigli?» Nolan aveva lasciato Google per concentrarsi su Project Maven, un’iniziativa sempre di Big G ma sponsorizzata dal Dipartimento della Difesa degli Stati Uniti. Alla scadenza del suo contratto, come di quello di altri 3 mila dipendenti, la compagnia non ha rinnovato nulla, anche a seguito della firma di una petizione che condannava il coinvolgimento dell’azienda in progetti militari.

Leggi anche:  L’AI che legge i nostri dati online per predire i nostri comportamenti