Ir para o conteúdo
AI.info

The Pulse

Pesquisadores do ToolPulse reconstroem fluxos de trabalho de agentes de IA por meio de rastros de cache

Pesquisadores usaram canais laterais de cache para reconstruir fluxos de trabalho com ferramentas de agentes do Codex e do Claude Code em testes com 11 modelos de linguagem. O preprint também descreve experimentos que inferiram categorias de tarefas e identificaram chamadas a ferramentas sensíveis.

Pesquisadores do ToolPulse reconstroem fluxos de trabalho de agentes de IA por meio de rastros de cache

Pesquisadores reconstruíram os fluxos de trabalho locais com ferramentas de agentes do Codex e do Claude Code em 11 modelos de linguagem, observando rastros em um cache de processador. O método ToolPulse alcançou uma pontuação F1 mínima acima de 93% nesses testes, segundo um preprint submetido ao arXiv.

Zihao Dan e seus colegas submeteram o artigo em 19 de novembro. Eles também testaram se as sequências recuperadas poderiam revelar a categoria de tarefa de um usuário ou identificar quando ferramentas sensíveis eram chamadas.

Monitoramento de ferramentas locais

Agentes que usam ferramentas podem transformar a solicitação de um usuário em ações como operações com arquivos, comandos de shell e consultas a bancos de dados. O artigo descreve um cenário em que o modelo de linguagem é executado na infraestrutura de um fornecedor, enquanto as ferramentas são executadas na máquina do usuário e usam bibliotecas de sistema compartilhadas.

O modelo de ataque pressupõe que um adversário esteja co-localizado com o agente e possa observar ferramentas locais por meio de recursos microarquiteturais compartilhados. Os autores dizem que seu ataque de recuperação de fluxos de trabalho não exige que o adversário veja os prompts ou a computação do modelo.

Um canal lateral de cache usa diferenças no tempo de acesso à memória para inferir se um local da memória está no cache do processador. Para o ToolPulse, os pesquisadores usaram uma técnica chamada Flush+Reload para monitorar locais selecionados da memória compartilhada e inferir chamadas a ferramentas.

Reconstrução de sequências

Em testes realizados em três plataformas de hardware, os autores constataram que o Flush+Reload permitiu o monitoramento preciso de ferramentas em tempo real. Eles também avaliaram o Prime+Probe, que permite ataques entre máquinas virtuais, mas concluíram que a sobrecarga do monitoramento e o aliasing de conjuntos de cache tornavam a técnica impraticável para o ataque de ponta a ponta.

O artigo descreve algoritmos para selecionar linhas de cache e remover observações duplicadas. Essa última medida lida com um problema em que acessos repetidos durante uma única chamada de ferramenta podem, caso contrário, parecer várias chamadas.

O ToolPulse registra a identidade e o horário das chamadas observadas para reconstruir um fluxo de trabalho. Os pesquisadores dizem que os agentes tendiam a chamar ferramentas em rajadas, usando scripts bash, o que permitiu que modelos de ataque subsequentes aprendessem esses padrões de tempo e reduzissem a interferência de processos em segundo plano e do uso manual de ferramentas.

O que os rastros revelaram

A equipe usou os rastros recuperados em um ataque de criação de perfil de tarefas destinado a inferir a intenção do usuário. Os autores relataram uma precisão de classificação de 87,77% no Terminal-Bench 1 e de 91,39% no Terminal-Bench 2, usando nove categorias de tarefas dos benchmarks.

Um ataque separado de localização de gatilhos foi projetado para identificar quando ferramentas sensíveis eram executadas. A equipe o testou em casos de extração de chaves e de extração de modelos, incluindo cargas de trabalho de criptografia e descriptografia, além de treinamento e inferência de modelos.

Os autores relataram recall acima de 96%, com redução da sobrecarga do ataque em 80,46% no caso de extração de chaves e em 85,79% no caso de extração de modelos. Esses resultados se referem aos cenários avaliados no artigo, e não a medições de todas as cargas de trabalho de agentes.

Ruído e divulgação

Para testar o ruído, a equipe reproduziu chamadas a ferramentas registradas em um servidor compartilhado por aproximadamente 20 usuários em um ambiente controlado. Nesse teste, a precisão da criação de perfil de tarefas caiu cerca de 4%, e o recall da localização de gatilhos caiu cerca de 1–3%, informa o artigo.

Os pesquisadores disseram ter divulgado o ToolPulse às equipes de segurança da OpenAI e da Anthropic em 21 de setembro.

Fontes

  1. Fonte original · Preprint ToolPulse: Side-Channel Eavesdropping on Tool-Using LLM Agents arXiv:2611.25470

Notícias relacionadas

Explore

Mais artigos