The Pulse
I ricercatori di ToolPulse ricostruiscono i flussi di lavoro degli agenti IA tramite tracce della cache
I ricercatori hanno usato canali laterali della cache per ricostruire i flussi di lavoro con gli strumenti degli agenti Codex e Claude Code in test condotti su 11 modelli linguistici. Il preprint descrive anche esperimenti che hanno dedotto le categorie di attività e identificato le chiamate a strumenti sensibili.

I ricercatori hanno ricostruito i flussi di lavoro locali con gli strumenti degli agenti Codex e Claude Code su 11 modelli linguistici, osservando le tracce nella cache di un processore. Nei test, il metodo ToolPulse ha ottenuto un punteggio F1 minimo superiore al 93%, secondo un preprint sottoposto ad arXiv.
Zihao Dan e i suoi colleghi hanno sottoposto il paper il 19 novembre. Hanno anche verificato se le sequenze recuperate potessero rivelare la categoria di attività di un utente o identificare quando venivano chiamati strumenti sensibili.
Osservare gli strumenti locali
Gli agenti che usano strumenti possono trasformare la richiesta di un utente in azioni come operazioni sui file, comandi shell e interrogazioni di database. Il paper descrive uno scenario in cui il modello linguistico viene eseguito sull’infrastruttura di un fornitore, mentre gli strumenti vengono eseguiti sul computer dell’utente e utilizzano librerie di sistema condivise.
Il modello di attacco presuppone che un avversario si trovi insieme all’agente e possa osservare gli strumenti locali attraverso risorse microarchitetturali condivise. Gli autori affermano che il loro attacco per il recupero dei flussi di lavoro non richiede che l’avversario possa vedere i prompt o i calcoli del modello.
Un canale laterale della cache sfrutta le differenze nei tempi di accesso alla memoria per dedurre se una posizione di memoria si trovi nella cache del processore. Per ToolPulse, i ricercatori hanno usato una tecnica chiamata Flush+Reload per monitorare specifiche posizioni di memoria condivisa e dedurre le invocazioni degli strumenti.
Ricostruire le sequenze
Nei test condotti su tre piattaforme hardware, gli autori hanno rilevato che Flush+Reload consentiva un monitoraggio accurato degli strumenti in tempo reale. Hanno valutato anche Prime+Probe, che permette attacchi tra macchine virtuali, ma hanno constatato che il sovraccarico del monitoraggio e l’aliasing dei set della cache lo rendevano impraticabile per il loro attacco end-to-end.
Il paper descrive algoritmi per scegliere le linee di cache e rimuovere le osservazioni duplicate. Quest’ultimo passaggio affronta un problema per cui gli accessi ripetuti durante una singola invocazione di uno strumento possono altrimenti sembrare invocazioni multiple.
ToolPulse registra l’identità e l’orario delle invocazioni osservate per ricostruire un flusso di lavoro. I ricercatori affermano che gli agenti tendevano a invocare gli strumenti a raffica usando script bash, consentendo ai modelli di attacco a valle di apprendere questi schemi temporali e ridurre le interferenze dovute ai processi in background e all’uso manuale degli strumenti.
Cosa hanno rivelato le tracce
Il team ha usato le tracce recuperate in un attacco di profilazione delle attività, volto a dedurre l’intento dell’utente. Gli autori hanno riportato un’accuratezza di classificazione dell’87,77% su Terminal-Bench 1 e del 91,39% su Terminal-Bench 2, utilizzando nove categorie di attività dei benchmark.
Un attacco distinto di localizzazione dei trigger è stato progettato per identificare quando venivano eseguiti strumenti sensibili. Il team lo ha testato in casi di estrazione delle chiavi e di estrazione del modello, compresi carichi di lavoro di cifratura e decifratura, nonché di addestramento e inferenza dei modelli.
Gli autori hanno riportato un richiamo superiore al 96%, riducendo al contempo il sovraccarico dell’attacco dell’80,46% nel caso di estrazione delle chiavi e dell’85,79% nel caso di estrazione del modello. Si tratta dei risultati ottenuti negli scenari valutati nel paper, non di misurazioni relative a tutti i carichi di lavoro degli agenti.
Rumore e divulgazione
Per verificare l’effetto del rumore, il team ha riprodotto invocazioni degli strumenti registrate su un server condiviso da circa 20 utenti in un ambiente controllato. In quel test, l’accuratezza della profilazione delle attività è diminuita di circa il 4% e il richiamo della localizzazione dei trigger dell’1–3%, riferisce il paper.
I ricercatori hanno dichiarato di aver comunicato ToolPulse ai team di sicurezza di OpenAI e Anthropic il 21 settembre.
Fonti
- Fonte originale · Preprint ToolPulse: Side-Channel Eavesdropping on Tool-Using LLM Agents arXiv:2611.25470
Notizie correlate
- Metano esce dalla modalità stealth con 12 milioni di dollari per la sicurezza degli agenti IA
- Sakana AI crea un gruppo di ricerca sulla sicurezza incentrato sulla difesa dell’IA
- Un ricercatore afferma che falle in CreditNirvana hanno esposto 6,6 milioni di account
- Microsoft sollecita controlli di sicurezza più rigorosi mentre avanza l’IA di frontiera
- Reco segnala otto compromissioni di account Microsoft 365, con il ruolo dell’IA ancora incerto