Le nuove funzionalità includono threat coverage potenziato, difese multimodali e uno scanner integrato per LLM, garantendo visibilità e controllo continuo dalla fase di sviluppo al deployment
Qualys, azienda pionieristica e leader di mercato nella fornitura di innovative soluzioni per IT, sicurezza e conformità basate su cloud, ha annunciato oggi importanti aggiornamenti alla sua soluzione TotalAI, progettati per proteggere l’intera pipeline MLOps delle organizzazioni, dalla fase di sviluppo fino al deployment. Le organizzazioni potranno ora testare rapidamente i propri modelli linguistici di grandi dimensioni (LLM), anche durante i cicli di test in fase di sviluppo, con una protezione più solida contro un numero maggiore di attacchi e funzionalità di scansione on-premise grazie a uno scanner LLM interno.
Con l’attuale corsa all’adozione dell’AI, le organizzazioni si stanno muovendo a un ritmo senza precedenti – spesso senza implementare i controlli di sicurezza fondamentali necessari per gestire i rischi. Uno studio recente ha rilevato che il 72% dei CISO è preoccupato che le soluzioni di AI generativa possano causare violazioni della sicurezza nelle proprie organizzazioni. Le imprese hanno bisogno di una soluzione più efficace per colmare il divario tra innovazione e implementazione sicura.
“Poiché l’AI sta diventando un elemento centrale dell’innovazione aziendale, la sicurezza non può più essere un ripensamento”, ha dichiarato Tyler Shields, Principal Analyst presso Enterprise Strategy Group. “Qualys TotalAI garantisce che vengano distribuiti in produzione solo modelli affidabili e verificati, consentendo alle organizzazioni di unire agilità e garanzia nell’uso dell’AI. Questa sicurezza aiuta le imprese a raggiungere i propri obiettivi di innovazione gestendo al contempo i rischi”.
Qualys TotalAI è progettato specificamente per affrontare le particolari sfide legate ai rischi dell’AI, andando oltre le semplici valutazioni dell’infrastruttura per testare direttamente i modelli alla ricerca di vulnerabilità di jailbreak, bias, esposizione di informazioni sensibili e rischi critici mappati sull’OWASP Top 10 per i LLM.
Adottando un approccio basato sul rischio, TotalAI non si limita a individuare le esposizioni specifiche dell’AI: aiuta anche i team a risolverle più rapidamente, proteggere la resilienza operativa e mantenere la fiducia nel brand.
Grazie a TotalAI i clienti potranno beneficiare di:
- Prioritizzazione automatica dei rischi di sicurezza dell’AI: i risultati vengono mappati rispetto a tattiche avversarie reali tramite MITRE ATLAS e automaticamente prioritizzati dal motore di scoring Qualys TruRisk, consentendo ai team di sicurezza, IT e MLOps di concentrarsi sui rischi più critici per il business.
- Sviluppo di applicazioni AI più rapido e sicuro: grazie al nuovo scanner LLM interno on-premise, le organizzazioni possono ora integrare un test di sicurezza completo dei modelli LLM durante le fasi di sviluppo, staging e deployment, il tutto senza mai esporre i modelli esternamente. Questo approccio “shift-left”, che incorpora la sicurezza e il testing delle applicazioni basate su AI nei flussi di lavoro CI/CD esistenti, rafforza sia l’agilità che la postura di sicurezza, garantendo al contempo che i modelli sensibili rimangano protetti dietro i firewall aziendali.
- Difesa in modo potenziato dalle minacce emergenti dell’AI: TotalAI ora si espande per rilevare 40 diversi scenari di attacco, inclusi tecniche avanzate di jailbreak, iniezioni e manipolazioni di prompt, exploit multilingue e amplificazione dei bias. Gli scenari ampliati simulano tattiche avversarie reali e rafforzano la resilienza dei modelli contro gli exploit, impedendo agli attaccanti di manipolare i risultati o eludere le misure di protezione.
- Protezione da exploit cross-modali con copertura delle minacce multimodali: il rilevamento multimodale avanzato di TotalAI identifica prompt o alterazioni nascoste all’interno di immagini, audio e video progettati per manipolare i risultati dei LLM, aiutando le organizzazioni a proteggersi dagli exploit cross-modali.
“L’AI sta rimodellando il modo in cui le aziende operano, ma con questa innovazione arrivano anche nuovi e complessi rischi”, ha dichiarato Sumedh Thakar, Presidente e CEO di Qualys. “TotalAI offre la visibilità, l’intelligence e l’automazione necessarie per rimanere agili e sicuri, proteggendo i carichi di lavoro AI in ogni fase — dallo sviluppo fino al deployment. Siamo orgogliosi di guidare la strada con la soluzione più completa del settore, aiutando le aziende a innovare con fiducia, rimanendo al contempo avanti rispetto alle minacce emergenti dell’AI”.
