Google Cloud Threat Intelligence ha pubblicato una guida strategica sull’AI-assisted vulnerability management. Il documento analizza come gli agenti AI e i modelli linguistici di grandi dimensioni (LLM) possano trasformare la gestione delle vulnerabilità. Allo stesso tempo, introduce nuove superfici di attacco che i CISO devono comprendere oggi.
Il Nuovo Paradigma: L’AI nella Gestione delle Vulnerabilità
L’adozione di strumenti AI per la sicurezza offensiva e difensiva è accelerata drasticamente nel 2025. Gli agenti autonomi possono scoprire vulnerabilità, generare patch e chiudere ticket in modo automatico. Questa automazione riduce i tempi di remediation, ma apre vettori di rischio inediti.
Google Threat Intelligence ha documentato casi concreti. Il malware PROMPTFLUX utilizza Gemini durante l’esecuzione per generare tecniche di offuscamento in tempo reale. Questo dimostra che gli attaccanti usano gli LLM come strumenti operativi, non solo per la pianificazione.
Parallelamente, Anthropic ha divulgato nel 2025 un attacco cinese condotto tramite Claude in modalità agentiva. L’intervento umano era minimo. L’intero ciclo di attacco era automatizzato ad alto livello di autonomia.
Gruppi di Stato e Attori Criminali: Una Minaccia Trasversale
Google ha identificato gruppi sponsorizzati da stati come Nord Corea, Cina e Russia. Questi attori usano l’AI per ricognizione, phishing e validazione di exploit. Non esiste un singolo profilo di minaccia: il rischio è distribuito tra attori criminali e statali.
Di conseguenza, ogni organizzazione che adotta strumenti AI per la sicurezza diventa parte di un target set in rapida evoluzione. Non si tratta di un rischio futuro. È un rischio presente e attivo.
I Vettori di Attacco Specifici dell’AI-Assisted Vulnerability Management
La guida di Google identifica quattro categorie principali di exploit path. Comprenderle è essenziale per costruire difese efficaci.
1. Prompt Injection
Il prompt injection è la minaccia più immediata. Un attaccante inietta istruzioni malevole nei dati trattati dall’agente. L’agente esegue queste istruzioni come se fossero legittime. Il risultato può essere l’esecuzione di codice non autorizzato o la divulgazione di dati sensibili.
2. Autonomia Non Sicura degli Agenti
Gli agenti con privilegi eccessivi possono modificare codice, chiudere ticket o applicare patch senza supervisione umana. Un agente mal configurato può silenziare vulnerabilità critiche. Può anche creare nuove esposizioni durante la remediation automatica.
3. Esecuzione di Codice Non Attendibile
Il codebase stesso deve essere trattato come input non fidato. Un attaccante può inserire payload nel codice sorgente. L’agente AI che analizza quel codice potrebbe eseguirlo o propagarlo nel pipeline.
4. Esposizione e Esfiltrazione di Dati
I pipeline di AI-assisted vulnerability management spesso processano PII e PHI. Se non isolati correttamente, questi dati possono essere esfiltrati. La violazione può avvenire attraverso l’output dell’agente o i log di sistema.
Le Contromisure: Defense-in-Depth per i Pipeline AI
Tuttavia, la guida di Google non si limita a descrivere i rischi. Offre un blueprint operativo per difendere i sistemi di AI-assisted vulnerability management. Le raccomandazioni seguono un approccio a più livelli.
Isolamento e Privilegi Minimi
Gli agenti devono operare in container non privilegiati. I privilegi devono essere dinamici e limitati al tempo strettamente necessario. Le identità macchina devono usare token a breve durata e just-in-time.
In questo contesto, il principio del minimo privilegio si applica non solo agli utenti umani. Si applica a ogni workload automatizzato nell’organizzazione.
Filtraggio e Controllo Deterministico
Vale la pena sottolineare l’importanza dei policy engine deterministici. Questi sistemi agiscono come chokepoint nel pipeline. Bloccano prompt injection e perdite di dati sensibili prima che raggiungano il modello.
I guard model, o layer di filtraggio specializzati, rappresentano un ulteriore livello di protezione. Non sostituiscono i controlli tradizionali. Li affiancano in modo complementare.
Osservabilità Completa e Red Teaming
Prima di distribuire agenti autonomi, le organizzazioni devono condurre red teaming guidato da umani. Ogni input, ragionamento, output e azione runtime dell’agente deve essere loggato. La piena osservabilità permette di rilevare flussi di dati tossici e esfiltrazione non autorizzata.
Inoltre, il Secure AI Framework di Google offre una struttura di governance applicabile. Questo framework supporta la validazione continua degli agenti in produzione.
Conclusione: L’AI come Superficie di Attacco Prioritaria
L’AI-assisted vulnerability management rappresenta un cambio di paradigma nella sicurezza aziendale. Accelera la difesa, ma introduce rischi sistemici nuovi e concreti. I CISO devono agire ora.
La velocità di iterazione degli attaccanti aumenta grazie all’AI. I difensori che adottano controlli strutturati, osservabilità e governance rigorosa possono disrompere le campagne in anticipo. La finestra temporale per agire è stretta.
Fonti:
- Google Cloud Threat Intelligence – AI-Assisted Vulnerability Management
- CSA – AI-Accelerated Vulnerability Discovery
- CSA – The AI Vulnerability Storm
Fonte: Articolo originale
La crescente adozione di agenti AI nella gestione delle vulnerabilità rende ancora più critica la condivisione sicura e verificabile di threat intelligence tra organizzazioni. IsacChain risponde a questa esigenza combinando la condivisione strutturata di indicatori di compromissione con la compliance NIS2 automatizzata, permettendo ai team di sicurezza di correlare rapidamente le minacce legate all’AI con i propri asset esposti. La verifica blockchain garantisce l’integrità e la provenienza di ogni dato condiviso, elemento fondamentale quando le superfici di attacco evolvono con la velocità dell’intelligenza artificiale. Scopri come IsacChain può aiutare la tua organizzazione su www.isacchain.com