The Pulse
Les chercheurs de ToolPulse reconstituent les flux de travail d’agents d’IA à partir de traces de cache
Les chercheurs ont utilisé des canaux auxiliaires du cache pour reconstituer les flux de travail faisant appel à des outils chez les agents Codex et Claude Code, lors de tests menés sur 11 modèles de langage. La prépublication décrit également des expériences qui ont permis de déduire des catégories de tâches et d’identifier des appels à des outils sensibles.

Des chercheurs ont reconstitué les flux de travail faisant appel à des outils locaux chez les agents Codex et Claude Code, sur 11 modèles de langage, en observant les traces dans le cache d’un processeur. Selon une prépublication soumise à arXiv, leur méthode ToolPulse a obtenu, lors de ces tests, un score F1 minimal supérieur à 93 %.
Zihao Dan et ses collègues ont soumis l’article le 19 novembre. Ils ont également testé si les séquences récupérées pouvaient révéler la catégorie de tâche d’un utilisateur ou permettre d’identifier les moments où des outils sensibles étaient appelés.
Surveiller les outils locaux
Les agents qui utilisent des outils peuvent transformer la demande d’un utilisateur en actions telles que des opérations sur des fichiers, des commandes shell et des requêtes de bases de données. L’article décrit un scénario dans lequel le modèle de langage s’exécute sur l’infrastructure d’un fournisseur, tandis que les outils tournent sur la machine de l’utilisateur et utilisent des bibliothèques système partagées.
Le modèle d’attaque suppose qu’un adversaire est co-localisé avec l’agent et peut observer les outils locaux par l’intermédiaire de ressources microarchitecturales partagées. Les auteurs indiquent que leur attaque de reconstitution des flux de travail ne nécessite pas que l’adversaire voie les prompts ou les calculs du modèle.
Un canal auxiliaire du cache exploite les différences de temps d’accès à la mémoire pour déduire si un emplacement mémoire se trouve dans le cache du processeur. Pour ToolPulse, les chercheurs ont utilisé une technique appelée Flush+Reload afin de surveiller certains emplacements de mémoire partagée et de déduire les appels aux outils.
Reconstituer des séquences
Lors de tests sur trois plateformes matérielles, les auteurs ont constaté que Flush+Reload permettait de surveiller les outils avec précision et en temps réel. Ils ont également évalué Prime+Probe, qui permet des attaques entre machines virtuelles, mais ont estimé que la surcharge liée à la surveillance et l’aliasing des ensembles de cache rendaient cette méthode impraticable pour leur attaque de bout en bout.
L’article décrit des algorithmes permettant de choisir les lignes de cache et de supprimer les observations en double. Cette dernière étape répond au problème suivant : sans elle, des accès répétés au cours d’un seul appel d’outil peuvent apparaître comme plusieurs appels.
ToolPulse enregistre l’identité et l’heure des appels observés afin de reconstituer un flux de travail. Selon les chercheurs, les agents avaient tendance à appeler les outils par rafales au moyen de scripts bash, ce qui permettait aux modèles d’attaque en aval d’apprendre ces schémas temporels et de réduire les interférences des processus en arrière-plan et de l’utilisation manuelle des outils.
Ce que les traces ont révélé
L’équipe a utilisé les traces récupérées dans une attaque de profilage des tâches visant à déduire l’intention de l’utilisateur. Les auteurs ont fait état d’une précision de classification de 87,77 % sur Terminal-Bench 1 et de 91,39 % sur Terminal-Bench 2, à partir de neuf catégories de tâches tirées des benchmarks.
Une attaque distincte de localisation des déclencheurs visait à identifier les moments où des outils sensibles étaient utilisés. L’équipe l’a testée dans des scénarios d’extraction de clés et d’extraction de modèles, notamment sur des charges de travail de chiffrement et de déchiffrement, ainsi que d’entraînement et d’inférence de modèles.
Les auteurs ont fait état d’un rappel supérieur à 96 %, tout en réduisant la surcharge de l’attaque de 80,46 % dans le scénario d’extraction de clés et de 85,79 % dans celui d’extraction de modèles. Il s’agit de résultats obtenus dans les scénarios évalués par l’article, et non de mesures portant sur l’ensemble des charges de travail d’agents.
Bruit et divulgation
Pour tester l’effet du bruit, l’équipe a rejoué des appels d’outils enregistrés sur un serveur partagé par environ 20 utilisateurs, dans un environnement contrôlé. Selon l’article, dans ce test, la précision du profilage des tâches a baissé d’environ 4 %, et le rappel de la localisation des déclencheurs a diminué d’environ 1 à 3 %.
Les chercheurs ont indiqué avoir signalé ToolPulse aux équipes de sécurité d’OpenAI et d’Anthropic le 21 septembre.
Sources
- Source originale · Prépublication ToolPulse: Side-Channel Eavesdropping on Tool-Using LLM Agents arXiv:2611.25470
Articles liés
- Metano sort du mode furtif avec 12 millions de dollars pour sécuriser les agents d’IA
- Sakana AI crée un groupe de recherche en sécurité axé sur la cyberdéfense par l’IA
- Aikido étend ses tests d’intrusion par l’IA aux applications iOS
- Un chercheur affirme que des failles chez CreditNirvana ont exposé 6,6 millions de comptes
- Microsoft appelle à renforcer les contrôles de sécurité face aux progrès de l’IA de pointe