The Pulse
Investigadores de ToolPulse reconstruyen flujos de trabajo de agentes de IA mediante trazas de caché
Los investigadores utilizaron canales laterales de caché para reconstruir flujos de trabajo con herramientas de agentes Codex y Claude Code en pruebas con 11 modelos de lenguaje. El preprint también describe experimentos que infirieron categorías de tareas e identificaron llamadas a herramientas sensibles.

Los investigadores reconstruyeron los flujos de trabajo locales con herramientas de agentes Codex y Claude Code en 11 modelos de lenguaje mediante la observación de trazas en la caché de un procesador. El método ToolPulse obtuvo una puntuación F1 mínima superior al 93 % en esas pruebas, según un preprint enviado a arXiv.
Zihao Dan y sus colegas enviaron el artículo el 19 de noviembre. También probaron si las secuencias recuperadas podían revelar la categoría de tarea de un usuario o identificar cuándo se llamaba a herramientas sensibles.
Observación de herramientas locales
Los agentes que utilizan herramientas pueden convertir la solicitud de un usuario en acciones como operaciones con archivos, comandos de shell y consultas a bases de datos. El artículo describe un escenario en el que el modelo de lenguaje se ejecuta en la infraestructura de un proveedor, mientras que las herramientas se ejecutan en el equipo del usuario y utilizan bibliotecas de sistema compartidas.
El modelo de ataque supone que un adversario está ubicado en el mismo entorno que el agente y puede observar las herramientas locales mediante recursos microarquitectónicos compartidos. Los autores afirman que su ataque para recuperar flujos de trabajo no requiere que el adversario vea los prompts ni los cálculos del modelo.
Un canal lateral de caché utiliza diferencias en los tiempos de acceso a la memoria para inferir si una ubicación de memoria está en la caché del procesador. Para ToolPulse, los investigadores utilizaron una técnica llamada Flush+Reload para supervisar ubicaciones seleccionadas de memoria compartida e inferir las invocaciones de herramientas.
Reconstrucción de secuencias
En pruebas realizadas en tres plataformas de hardware, los autores descubrieron que Flush+Reload permitía supervisar herramientas con precisión y en tiempo real. También evaluaron Prime+Probe, que permite ataques entre máquinas virtuales, pero comprobaron que la sobrecarga de supervisión y el aliasing de conjuntos de caché hacían que no resultara práctico para su ataque integral.
El artículo describe algoritmos para elegir líneas de caché y eliminar observaciones duplicadas. Esto último aborda un problema por el que los accesos repetidos durante una sola invocación de una herramienta pueden aparecer como varias invocaciones.
ToolPulse registra la identidad y el momento de las invocaciones observadas para reconstruir un flujo de trabajo. Los investigadores afirman que los agentes tendían a invocar herramientas en ráfagas mediante scripts de bash, lo que permitía a los modelos de ataque posteriores aprender esos patrones temporales y reducir la interferencia de los procesos en segundo plano y del uso manual de herramientas.
Qué revelaron las trazas
El equipo utilizó las trazas recuperadas en un ataque de perfilado de tareas destinado a inferir la intención del usuario. Los autores comunicaron una precisión de clasificación del 87,77 % en Terminal-Bench 1 y del 91,39 % en Terminal-Bench 2, utilizando nueve categorías de tareas de los benchmarks.
Se diseñó un ataque independiente de localización de activadores para identificar cuándo se ejecutaban herramientas sensibles. El equipo lo probó en casos de extracción de claves y de extracción de modelos, incluidos los de cargas de trabajo de cifrado y descifrado, y de entrenamiento e inferencia de modelos.
Los autores comunicaron una exhaustividad superior al 96 %, al tiempo que reducían la sobrecarga del ataque en un 80,46 % para el caso de extracción de claves y en un 85,79 % para el caso de extracción de modelos. Estos son resultados de los escenarios evaluados en el artículo, no mediciones de todas las cargas de trabajo de los agentes.
Ruido y divulgación
Para probar el ruido, el equipo reprodujo invocaciones de herramientas registradas en un servidor compartido por aproximadamente 20 usuarios en un entorno controlado. En esa prueba, la precisión del perfilado de tareas cayó alrededor de un 4 %, y la exhaustividad de la localización de activadores disminuyó entre un 1 y un 3 %, según el artículo.
Los investigadores afirmaron que comunicaron ToolPulse a los equipos de seguridad de OpenAI y Anthropic el 21 de septiembre.
Fuentes
- Fuente original · Preprint ToolPulse: Side-Channel Eavesdropping on Tool-Using LLM Agents arXiv:2611.25470
Noticias relacionadas
- Metano sale del modo sigiloso con 12 millones de dólares para la seguridad de los agentes de IA
- Sakana AI crea un grupo de investigación en seguridad centrado en la defensa de la IA
- Investigador afirma que fallos de CreditNirvana dejaron al descubierto 6,6 millones de cuentas
- Microsoft pide controles de seguridad más estrictos ante el avance de la IA de frontera
- Reco informa de la toma de control de ocho cuentas de Microsoft 365; el papel de la IA es incierto