Trend Micro, leader globale di cybersecurity, mette in guardia le organizzazioni sull’emergere di nuovi rischi cyber legati all’“avanzamento silenzioso” dell’IA.
Questo avvertimento segue il recente lancio da parte di OpenAI del nuovo ChatGPT agent, in grado di intervenire in modo autonomo su e-mail, calendari e piattaforme web.
Il nuovo ChatGPT agent segna un cambiamento radicale rispetto ai tradizionali assistenti conversazionali, agendo non solo come consulente, ma anche come attore proattivo all’interno degli ecosistemi digitali degli utenti. È infatti in grado di scrivere codice, inviare e-mail, accedere a calendari, prenotare viaggi e persino navigare sul web in autonomia. L’analisi di Trend Micro definisce questo fenomeno un punto di svolta verso l’utilizzo dell’IA agentica, un cambiamento che combina automazione, capacità di ragionamento e autonomia su una scala senza precedenti.
“Non si tratta più solo di un’IA che risponde alle nostre domande. È un’IA che agisce per nostro conto, e questo cambia tutto”, afferma Salvatore Marcis, Country Manager di Trend Micro Italia. “Dalla prompt injection alla “consent fatigue” e agli exploit cross-app, la superficie di attacco è ora più personale, più integrata e più critica che mai”.
Questi i rischi principali identificati da Trend Micro:
- L’esecuzione autonoma aumenta il rischio di manipolazione: l’agente può ora operare con una supervisione umana minima. Se compromesso, potrebbe compiere azioni concrete come inviare e-mail a destinatari indesiderati o eliminare dati critici, all’insaputa dell’utente.
- Gli attacchi di tipo “prompt injection” diventano sempre più pericolosi: gli aggressori potrebbero nascondere comandi dannosi nelle pagine web o nelle app a cui l’agente accede, inducendolo a compiere azioni malevole senza che l’utente ne sia consapevole.
- La profilazione dettagliata degli utenti amplifica le preoccupazioni relative alla privacy: l’agente apprende nel tempo, registrando i comportamenti e le preferenze degli utenti. Se compromesso, potrebbe divulgare informazioni sensibili, come appuntamenti del calendario o dati e credenziali di accesso a sistemi e piattaforme integrate.
- Consent fatigue e fiducia eccessiva: gli utenti potrebbero abituarsi a concedere autorizzazioni in modo acritico, approvando in modo automatico azioni critiche, motivo di seria preoccupazione per le organizzazioni che gestiscono workflow sensibili.
Implicazioni per le aziende
Sebbene il lancio prometta evidenti vantaggi in termini di produttività, l’integrazione di tali agenti nei calendari di lavoro, nelle e-mail e nei software aziendali apre nuove vulnerabilità legate alla supply chain, al furto d’identità e alle minacce interne.
Il Digital Assistant Risk Framework di Trend Micro, introdotto per la prima volta nel 2024, evidenzia come anche piccoli incrementi nell’autonomia o nella user modeling possano amplificare in modo esponenziale i rischi per la sicurezza.
“L’Agentic AI sposta l’equilibrio tra vantaggi e controllo,” aggiunge Salvatore Marcis “Senza una supervisione adeguata, quello che sulla carta è un utile assistente può trasformarsi rapidamente in un ponte pericoloso verso attacchi mirati contro l’infrastruttura aziendale.”
Per aiutare le organizzazioni ad essere preparate Trend Micro consiglia di:
- Definire e implementare rigidi confini di autorizzazione per le IA che interagiscono su più sistemi.
- Fare un attento monitoraggio per intercettare i possibili segni di prompt manipulation e comportamenti anomali.
- Educare i dipendenti sui limiti dell’autonomia dell’IA e reintrodurre dei checkpoint umani nel ciclo.
- Adottare strategie di gestione della superficie d’attacco dell’IA all’interno di un più ampio piano di protezione dal rischio cyber.
I ricercatori di Trend Micro continueranno ad analizzare questa evoluzione e a pubblicare linee guida sui sistemi agentici.
