Ir para o conteúdo
AI.info

The Pulse

Google apresenta prévia de recuperação de ferramentas sob demanda para a API Gemini

O Google está apresentando uma prévia do Tool Retrieval na Gemini Interactions API, que permite aos desenvolvedores carregar esquemas de parâmetros de ferramentas conforme necessário. O recurso não tem cobrança separada e é compatível com o Gemini 3.6 e modelos posteriores.

Google apresenta prévia de recuperação de ferramentas sob demanda para a API Gemini

Em uma prévia na Gemini Interactions API, os desenvolvedores já podem carregar esquemas de parâmetros de ferramentas conforme necessário, em vez de enviar uma biblioteca completa a cada solicitação. O Google apresentou o recurso, chamado Tool Retrieval, em 19 de novembro.

O recurso funciona com o Gemini 3.6 e modelos posteriores, incluindo todos os modelos Gemini 4. Segundo o Google, o envio de esquemas completos para grandes bibliotecas de ferramentas pode aumentar a contagem de tokens de entrada e a latência, além de reduzir a precisão da seleção de ferramentas à medida que a lista de opções cresce.

Carregamento de ferramentas sob demanda

Para ativar o recurso, os desenvolvedores adicionam uma ferramenta tool_search a uma solicitação e definem defer_loading: true nas ferramentas que querem deixar de fora inicialmente. O modelo ainda consegue ver o nome e a descrição de cada ferramenta adiada, mas o esquema de parâmetros dela fica fora do contexto até ser necessário.

Quando precisa de uma ferramenta, o modelo a solicita pelo nome, a API carrega o esquema completo e o modelo chama a função dentro da mesma solicitação. Uma busca, o carregamento do esquema e a chamada da função aparecem em interaction.steps, onde os desenvolvedores podem inspecioná-los ao depurar nomes ou descrições de ferramentas. Depois da chamada da função, o aplicativo executa a função e retorna um function_result.

O Gemini realiza a busca no servidor, sem que o desenvolvedor precise criar ou hospedar um índice. Os desenvolvedores podem deixar ferramentas usadas com frequência carregadas desde o início e adiar as demais.

Cache e servidores remotos

O Tool Retrieval também funciona com o cache de prefixo. Os esquemas adiados ficam fora do início do prompt, enquanto os esquemas carregados pelo modelo são adicionados mais adiante na conversa, mantendo inalterado o prefixo em cache entre as interações.

O recurso também é compatível com servidores MCP remotos na API Gemini. Nessa configuração, definir defer_loading: true em uma ferramenta mcp_server carrega sob demanda as ferramentas disponibilizadas por esse servidor, sem exigir que os desenvolvedores as listem individualmente.

Buscas no cliente

Os desenvolvedores podem, em vez disso, usar a recuperação no cliente se mantiverem um registro de ferramentas, um índice de embeddings ou um filtro de permissões por usuário. Eles declaram tool_search com execution definido como client e especificam os parâmetros de busca; então, o aplicativo realiza a consulta.

Essa abordagem acrescenta uma ida e volta a cada busca. As ferramentas não precisam ser declaradas com antecedência, e um aplicativo pode disponibilizar novas ferramentas durante uma conversa quando um usuário conecta uma integração.

Cobrança por tokens

O Tool Retrieval não tem cobrança separada. Os tokens de entrada e saída são cobrados pelas tarifas padrão do modelo utilizado.

Ativar tool_search acrescenta um pequeno bloco fixo de tokens de entrada. Cada esquema carregado pelo modelo é cobrado como entrada pelo restante da conversa, assim como seria uma ferramenta declarada desde o início.

A economia de tokens depende de os esquemas que não foram carregados compensarem os que foram recuperados. O Google recomenda que os desenvolvedores avaliem o recurso com base no próprio tráfego.

Fontes

  1. Fonte original · Post de blog Google blog.google

Empresas nesta notícia

Notícias relacionadas

Explore

Mais artigos