The Pulse
Forschende rekonstruieren mit ToolPulse Arbeitsabläufe von KI-Agenten anhand von Cache-Spuren
Forschende nutzten Cache-Seitenkanäle, um in Tests mit 11 Sprachmodellen die Tool-Abläufe von Codex- und Claude-Code-Agenten zu rekonstruieren. Der Preprint beschreibt außerdem Experimente, bei denen Aufgabenkategorien abgeleitet und sensible Tool-Aufrufe identifiziert wurden.

Forschende rekonstruierten die lokalen Tool-Abläufe von Codex- und Claude-Code-Agenten über 11 Sprachmodelle hinweg, indem sie Spuren in einem Prozessor-Cache beobachteten. Laut einem bei arXiv eingereichten Preprint lag der niedrigste F1-Wert, den ihre ToolPulse-Methode in diesen Tests erreichte, über 93 %.
Zihao Dan und seine Kollegen reichten das Paper am 19. November ein. Sie testeten außerdem, ob sich anhand der rekonstruierten Sequenzen die Aufgabenkategorie eines Nutzers ableiten oder erkennen ließe, wann sensible Tools aufgerufen wurden.
Lokale Tools beobachten
Agenten, die Tools nutzen, können die Anfrage eines Nutzers in Aktionen wie Dateioperationen, Shell-Befehle und Datenbankabfragen umsetzen. Das Paper beschreibt ein Szenario, in dem das Sprachmodell auf der Infrastruktur eines Anbieters läuft, während die Tools auf dem Rechner des Nutzers ausgeführt werden und gemeinsame Systembibliotheken verwenden.
Das Angriffsmodell setzt voraus, dass sich ein Angreifer auf demselben System wie der Agent befindet und lokale Tools über gemeinsam genutzte mikroarchitektonische Ressourcen beobachten kann. Die Autoren erklären, dass ihr Angriff zur Rekonstruktion von Arbeitsabläufen nicht voraussetzt, dass der Angreifer die Prompts oder Berechnungen des Modells sieht.
Ein Cache-Seitenkanal nutzt Unterschiede bei der Dauer von Speicherzugriffen, um abzuleiten, ob sich eine Speicheradresse im Prozessor-Cache befindet. Für ToolPulse verwendeten die Forschenden eine Technik namens Flush+Reload, um ausgewählte gemeinsam genutzte Speicheradressen zu überwachen und Tool-Aufrufe abzuleiten.
Sequenzen rekonstruieren
In Tests auf drei Hardwareplattformen stellten die Autoren fest, dass Flush+Reload eine präzise Echtzeitüberwachung von Tools ermöglichte. Sie untersuchten auch Prime+Probe, das Angriffe über virtuelle Maschinen hinweg ermöglicht. Dabei stellten sie jedoch fest, dass der Überwachungsaufwand und das Cache-Set-Aliasing die Technik für ihren durchgängigen Angriff unpraktikabel machten.
Das Paper beschreibt Algorithmen zur Auswahl von Cache-Zeilen und zum Entfernen doppelter Beobachtungen. Letzteres soll ein Problem beheben, bei dem wiederholte Zugriffe während eines einzelnen Tool-Aufrufs andernfalls als mehrere Aufrufe erscheinen können.
ToolPulse erfasst die Identität und den Zeitpunkt beobachteter Aufrufe, um einen Arbeitsablauf zu rekonstruieren. Die Forschenden sagen, dass Agenten Tools tendenziell in Schüben mithilfe von Bash-Skripten aufriefen. Dadurch konnten nachgelagerte Angriffsmodelle diese zeitlichen Muster erlernen und Störungen durch Hintergrundprozesse sowie die manuelle Nutzung von Tools verringern.
Was die Spuren offenbarten
Das Team nutzte rekonstruierte Spuren für einen Angriff zur Aufgabenprofilierung, der die Absichten der Nutzer ableiten sollte. Die Autoren berichteten von einer Klassifikationsgenauigkeit von 87,77 % bei Terminal-Bench 1 und 91,39 % bei Terminal-Bench 2. Dabei verwendeten sie neun Aufgabenkategorien aus den Benchmarks.
Ein separater Angriff zur Trigger-Lokalisierung sollte erkennen, wann sensible Tools ausgeführt wurden. Das Team testete ihn in Fällen der Schlüssel- und Modell-Extraktion, darunter bei Arbeitslasten für Ver- und Entschlüsselung sowie für das Training und die Inferenz von Modellen.
Die Autoren berichteten von einem Recall-Wert über 96 %. Zugleich sank der Angriffsaufwand im Fall der Schlüssel-Extraktion um 80,46 % und im Fall der Modell-Extraktion um 85,79 %. Diese Ergebnisse stammen aus den im Paper untersuchten Szenarien und sind keine Messwerte für alle Arbeitslasten von Agenten.
Störungen und Offenlegung
Um Störungen zu testen, spielte das Team Tool-Aufrufe erneut ab, die in einer kontrollierten Umgebung auf einem Server aufgezeichnet worden waren, den etwa 20 Nutzer gemeinsam verwendeten. Bei diesem Test sank die Genauigkeit der Aufgabenprofilierung laut Paper um etwa 4 % und der Recall-Wert der Trigger-Lokalisierung um etwa 1–3 %.
Die Forschenden erklärten, sie hätten die Sicherheitsteams von OpenAI und Anthropic am 21. September über ToolPulse informiert.
Quellen
- Originalquelle · Preprint ToolPulse: Side-Channel Eavesdropping on Tool-Using LLM Agents arXiv:2611.25470
Verwandte Meldungen
- OpenAI zufolge erledigten KI-Agenten 46 % der delegierten Aufgaben mit einem Arbeitsaufwand von zwei bis vier Stunden
- Metano beendet Stealth-Phase mit 12 Millionen US-Dollar für KI-Agentensicherheit
- Sakana AI gründet Sicherheitsforschungsgruppe mit Schwerpunkt auf KI-gestützter Cyberabwehr
- Forscher sagt: CreditNirvana-Sicherheitslücken legten 6,6 Millionen Konten offen
- Microsoft fordert strengere Sicherheitskontrollen angesichts der Fortschritte bei Frontier-KI