L’accountability diventa requisito di accesso al mercato, la spiegabilità si traduce in vantaggio competitivo. Come operare alla velocità delle macchine senza perdere supervisione e rilevanza
La prima illusione che accompagna l’adozione dell’AI agentica è che il controllo coincida con il deployment. In realtà, installare un agente non significa comprenderne i comportamenti emergenti. La discussione attuale si concentra sulle opportunità di efficienza, trascurando la questione più delicata: chi governa gli agenti una volta messi in produzione? «Il mercato si sta affrettando a implementare l’AI agentica come soluzione per la produttività, ma il vero rischio è il debito di governance» – spiega Eleftherios Antoniades, founder e CTO di ClearSkies.
Il problema reale non è tanto controllare gli agenti AI quanto comprendere cosa si sta delegando. «Ogni agente non documentato e ogni decisione non tracciabile diventano una responsabilità che prima o poi emerge sotto forma di incidenti di sicurezza privi di una spiegazione verificabile». Allargando lo sguardo, l’architettura degli agenti può produrre una catena causale difficile da ricostruire ex post. Se un agente blocca un account, modifica una configurazione di sicurezza o altera una policy di accesso, diventa problematico stabilire chi ne deve rispondere. Soprattutto quando il processo decisionale di un agente AI è opaco per definizione.
IL RISCHIO DELL’AI OPACA
«L’EU AI Act, NIS2, DORA e vari framework specifici di settore puntano tutti nella stessa direzione: l’onere della prova si sta spostando sull’operatore» – afferma Antoniades. «È stato deciso dal modello, non è più una giustificazione valida». Perché il vettore d’attacco più insidioso è quello che erode la fiducia negli output dell’AI. «Prompt injection indirette, avvelenamento dei dati di addestramento e manipolazione delle fonti di retrieval non compromettono solo la singola decisione, ma la legittimità di tutte quelle che il sistema prenderà in seguito». Una volta persa la fiducia nei risultati dell’AI, il concetto stesso di ritorno sull’investimento crolla.
«La priorità quindi non è solo quella di proteggere il modello ma l’integrità dei dati e della catena decisionale» – mette in guardia Antoniades. La vera discriminante non è la velocità di adozione della tecnologia ma la capacità di governance come risorsa strategica. «La piattaforma ClearSkies Centric AI TDIR nasce proprio con questo obiettivo: rendere l’autonomia dell’AI tracciabile e difendibile anche davanti a regulator, clienti e board aziendali». Strategicamente il mercato premia l’AI trasparente, tracciabile e governata da policy fin dalla progettazione. «L’AI opaca diventerà presto non assicurabile, non accessibile e, alla fine, inutilizzabile nei settori regolamentati» – prevede Antoniades. «La responsabilità non è più solo una questione etica. Al contrario è un requisito per l’accesso al mercato. Le aziende che considerano la comprensione come una risorsa anziché come un ostacolo saranno quelle che continueranno a operare senza difficoltà nei prossimi anni».
ZERO TRUST E AGENTI AUTONOMI
C’è poi un nodo architetturale: come conciliare il paradigma Zero Trust con agenti che, per funzionare, richiedono privilegi elevati e accesso a risorse critiche. La risposta secondo Antoniades passa dal ripensamento del concetto stesso di identità digitale. «L’identità è il nuovo perimetro. E presto le identità non-umane supereranno quelle umane di un ordine di grandezza». Un passaggio che modifica in profondità la governance delle identità, degli strumenti SOC e della gestione del rischio. «La contraddizione tra autonomia e controllo è un problema solo apparente. Una volta che gli agenti AI sono sottoposti a una verifica comportamentale continua, dotati di privilegi limitati e ai quali è concessa una fiducia revocabile, il problema diventa del tutto gestibile» – spiega Antoniades.
Guardando ai prossimi due o tre anni, il maggior rischio legato all’AI agentica, che il mercato attualmente sottovaluta è l’asimmetria del conflitto. «Chi si difende, implementa l’AI per gestire i volumi di alert e log, mentre chi attacca se ne serve per scalare in precisione, personalizzazione e tempistiche. Finché la difesa non sarà automatizzata allo stesso livello, il vantaggio economico resterà agli attaccanti. Il modello human in the loop, a cui i CdA si aggrappano ancora come a un’ancora di salvezza, sta diventando un collo di bottiglia che chi attacca continuerà a sfruttare». Secondo il fondatore e CTO di ClearSkies, il vero punto della questione è una governance ancora troppo lenta rispetto alla velocità delle minacce. «Chi aspetta – conclude Antoniades – ha già perso».
