Algocrazia, 5G e dintorni

IA per predire quali malattie passeranno dall’animale all’uomo

Nel 1981, il Giappone, che all’epoca era uno dei leader mondiali dell’IT, lanciò il progetto avveniristico “FGCS, Fifth Generation Computer Systems”, il cui obiettivo era quello di sviluppare computer, con l’AI incorporata, da impiegare su problemi complessi sia di tipo generale che personale e sociale. Il progetto fu un fiasco, forse perché utopico e il Giappone perse il primato.

Ma oggi stiamo arrivando a quel traguardo: la comunicazione 5G è ora a portata di mano! L’attenzione non è più sulle singole tecnologie ma sulla loro combinazione. Infatti, sono in corso di sviluppo cinque aree tecnologiche che integrate faranno progredire esponenzialmente l’innovazione: 1) l’interazione individualizzata uomo-macchina; 2) le tecnologie bio-ispirate e materiali intelligenti; 3) i “gemelli digitali” e la simulazione real-time; 4) la comunicazione 5G e l’analisi dei dati; 5) le applicazioni di intelligenza artificiale.

Gli algoritmi eserciteranno un potere enorme e saranno sempre più parte della nostra esistenza. Una presenza pervasiva che reca opportunità ma anche enormi rischi per la stessa idea di democrazia. Con la comunicazione 5G stiamo entrando nell’era dell’algocrazia, termine che – secondo Aneesh Aneesh, direttore dell’Institute of World Affairs all’Università del Wisconsin – identifica un “sistema di governance in cui gli algoritmi controllano, guidano, organizzano e dirigono gli eventi e le azioni, compreso il comportamento umano”. Secondo Aneesh, l’algocrazia è chiaramente diversa dalla burocrazia: infatti, le regole burocratiche devono essere interiorizzate da chi le segue, mentre gli algoritmi, quasi sempre, negano o consentono una possibilità senza richiedere assimilazioni o, nel caso, spiegazioni. Filosofi, umanisti e studiosi stanno iniziando a ragionare sui limiti etici da inserire negli algoritmi, così come si sta ponendo il tema della trasparenza e della “decifrabilità” delle decisioni.

Leggi anche:  Safran Aircraft Engines sceglie la soluzione IoT di tracciamento intelligente di Orange Business Services

5G e AI non devono essere, quindi, obiettivi di per sé, ma mezzi per aumentare il benessere delle persone, dell’economia e della società. In definitiva l’AI deve essere trasparente e interpretabile dagli umani che rimangono gli unici veri controllori e responsabili finali. Tale concezione “umano-centrica” muove dalla convinzione che quali che siano i benefici che la tecnologia può apportare all’umanità, nulla può giustificare che si mettano a rischio i valori fondanti delle società e la tutela delle libertà e dei diritti. L’implicazione immediata è che occorre, già da oggi, prestare molta attenzione alle situazioni che coinvolgono i gruppi più vulnerabili. Non a caso, il presidente dell’Autorità Garante della privacy Pasquale Stanzione nella sua relazione al Parlamento ha evidenziato come la protezione dei dati si stia dimostrando “sempre più determinante per il governo sostenibile della tecnica e perché la democrazia non degeneri nella algocrazia”.

A sua volta, l’Europa ha adottato un approccio fondamentale per consentire la competitività responsabile, per accrescere la fiducia degli utenti e facilitare una più ampia diffusione dell’intelligenza artificiale. I principi sono stati affermati dalla Commissione Europea con la proposta di regolamento “Regulation on a European approach for Artificial Intelligence” volto a rendere l’UE un polo di attrazione per lo sviluppo affidabile, sicuro ed etico di AI e 5G. La normativa istituisce numerose novità nella gestione e nella verifica dei sistemi, in particolare, nella videosorveglianza e riconoscimento facciale, con punti di contatto con i principi fondamentali del GDPR, quale strumento cardine dell’intera strategia europea. Con tale contributo, l’Europa pone al centro della comunicazione 5G l’etica, la sostenibilità, la trasparenza, la responsabilità e la fiducia. Tocca a noi ascoltarla.