L’intelligenza artificiale sta assumendo un ruolo sempre più centrale nelle aziende, ma molte di esse non sono pronte a gestirne i rischi.
Secondo il Cisco 2025 AI Readiness Index, solo il 29% delle organizzazioni si sente pronto a difendersi dalle minacce legate all’IA, e appena il 33% ha un piano per un’adozione responsabile. I dirigenti conoscono la cybersecurity tradizionale, ma faticano a gestire i rischi dell’IA, caratterizzati da comportamenti imprevedibili dei sistemi.
Per affrontare queste sfide, Cisco ha sviluppato l’AI Security Framework, un approccio integrato e indipendente dai fornitori in grado di aiutare le aziende a comprendere i possibili errori dei sistemi IA, come questi potrebbero essere attaccati e come costruire difese capaci di evolvere con la tecnologia, coprendo rischi tecnici, comportamentali e di governance.
Un panorama frammentato e la necessità di integrazione
Per anni, le aziende hanno cercato di gestire i rischi dell’IA usando linee guida diverse: MITRE ATLAS per le tattiche avversarie, NIST per gli attacchi al machine learning, OWASP per i modelli linguistici e pratiche interne di Google, OpenAI e Anthropic. Ma nessuno di questi strumenti offre una visione completa del rischio. Serve invece un modello unico che integri sicurezza, runtime, supply chain, comportamento dei modelli, input/output dannosi e rischi agentici, perché nel mondo reale i rischi non sono separati e nemmeno gli attaccanti li affrontano a compartimenti stagni.
Un nuovo paradigma per comprendere il rischio dell’IA
I rischi dell’IA sono concreti e richiedono un approccio unificato. Cisco distingue due dimensioni complementari:
- Sicurezza dell’IA: proteggere i sistemi da attacchi, accessi non autorizzati e compromissioni durante tutto il ciclo di vita.
- Sicurezza responsabile dell’IA: garantire che l’IA si comporti in modo etico, affidabile, trasparente e allineato ai valori umani.
Affrontare insieme sicurezza e rischi operativi permette alle aziende di costruire sistemi di IA robusti, sicuri e affidabili.
Per rispondere a un panorama di minacce IA in continua evoluzione, il Framework Integrato di Sicurezza e Protezione AI di Cisco si basa su cinque elementi chiave: integrazione delle minacce e dei contenuti dannosi, gestione del ciclo di vita, orchestrazione multi-agente, supporto multimodale e utilizzo consapevole del pubblico.
- Integrazione di minacce e danni: sicurezza e protezione dell’IA sono inseparabili. Attacchi tecnici e manipolazioni dei contenuti spesso si combinano, causando danni reali agli utenti. Il framework unisce questi elementi in un’unica struttura per comprendere i rischi in modo olistico.
- Consapevolezza del ciclo di vita: i rischi cambiano durante sviluppo, addestramento, distribuzione e operatività. Il framework aiuta le organizzazioni a identificare le vulnerabilità in ogni fase e a implementare difese che evolvono con il sistema.
- Orchestrazione multi-agente: considera i rischi quando più sistemi IA collaborano, valutando comunicazioni, memoria condivisa e processi decisionali autonomi—minacce invisibili ai framework tradizionali.
- Multimodalità: l’IA oggi lavora su testo, audio, immagini, video, codice e dati dai sensori. Il framework consente di trattare in modo coerente i rischi derivanti da diversi tipi di input, essenziali per robotica, veicoli autonomi e piattaforme di monitoraggio.
- Uso consapevole del pubblico: il framework offre una “bussola” per diversi interlocutori: dirigenti, responsabili della sicurezza, ingegneri e team di threat intelligence. Tutti condividono un modello comune, migliorando comunicazione e allineamento tra funzioni aziendali, sicurezza, sviluppatori e governance.
In sintesi, il Cisco AI Security Framework fornisce un linguaggio condiviso e una visione completa dei rischi IA, dalle infrastrutture e supply chain alle politiche organizzative e alle interazioni umane, aiutando le aziende a costruire sistemi di IA sicuri, affidabili e responsabili.
Classificazione unificata delle minacce dell’IA
Un elemento centrale del Cisco AI Security Framework è la sua classificazione unificata delle minacce, organizzata in quattro livelli: obiettivi (il “perché” degli attacchi), tecniche (il “come”), sottotecniche (varianti specifiche) e procedure (implementazioni reali). Questa struttura collega le motivazioni degli attaccanti agli impatti concreti sui sistemi e sulle aziende.
Il framework identifica 19 obiettivi degli attaccanti, tra cui dirottamento, jailbreak, compromissione della privacy, escalation di privilegi e generazione di contenuti dannosi. A livello operativo, include oltre 150 tecniche e sottotecniche, come iniezioni di prompt, manipolazioni multi-agente, corruzione della memoria e compromissione della supply chain, coprendo scenari complessi come la propagazione di prompt malevoli tra strumenti e agenti. La classificazione copre anche 25 categorie di contenuti dannosi, dai problemi di cybersecurity e privacy alla compromissione della proprietà intellettuale.
Il Framework Integrato di Sicurezza e Protezione AI di Cisco è uno degli approcci più completi e lungimiranti disponibili oggi. In un’epoca in cui l’IA sta trasformando i settori, avere una visione chiara dei rischi non è solo utile, ma essenziale. Il framework è integrato anche in Cisco AI Defense, dove minacce, indicatori e strategie di mitigazione vengono tracciati in modo pratico.
