Vai al contenuto
AI.info

The Pulse

Google presenta in anteprima il recupero degli strumenti su richiesta per Gemini API

Google presenta in anteprima Tool Retrieval nell’API Gemini Interactions, che consente agli sviluppatori di caricare gli schemi dei parametri degli strumenti quando necessario. La funzionalità non prevede costi separati ed è compatibile con Gemini 3.6 e i modelli successivi.

Google presenta in anteprima il recupero degli strumenti su richiesta per Gemini API

Con un’anteprima nell’API Gemini Interactions, gli sviluppatori possono ora caricare gli schemi dei parametri degli strumenti quando necessario, invece di inviare una libreria completa a ogni richiesta. Google ha presentato la funzionalità, chiamata Tool Retrieval, il 19 novembre.

La funzionalità è compatibile con Gemini 3.6 e i modelli successivi, compresi tutti i modelli Gemini 4. Google afferma che inviare gli schemi completi di grandi librerie di strumenti può aumentare il numero di token di input e la latenza, oltre a ridurre la precisione nella selezione degli strumenti man mano che cresce l’elenco dei candidati.

Caricare gli strumenti su richiesta

Per attivare la funzionalità, gli sviluppatori aggiungono uno strumento tool_search a una richiesta e impostano defer_loading: true sugli strumenti che vogliono lasciare da parte. Il modello può comunque vedere il nome e la descrizione di ciascuno strumento differito, ma il relativo schema dei parametri resta fuori dal contesto finché non serve.

Quando il modello ha bisogno di uno strumento, lo richiede per nome; l’API ne carica lo schema completo e il modello chiama la funzione all’interno della stessa richiesta. Una ricerca, il caricamento dello schema e la chiamata alla funzione compaiono in interaction.steps, dove gli sviluppatori possono esaminarli durante il debug di nomi o descrizioni degli strumenti. Dopo la chiamata alla funzione, l’applicazione esegue la funzione e restituisce un function_result.

Gemini esegue la ricerca sul server, senza che lo sviluppatore debba creare o ospitare un indice. Gli sviluppatori possono lasciare caricati fin dall’inizio gli strumenti usati di frequente e differire gli altri.

Cache e server remoti

Tool Retrieval funziona anche con il caching del prefisso. Gli schemi differiti restano fuori dall’inizio del prompt, mentre quelli caricati dal modello vengono aggiunti più avanti nella conversazione, mantenendo invariato il prefisso memorizzato nella cache tra un turno e l’altro.

La funzionalità supporta anche i server MCP remoti nell’API Gemini. In questa configurazione, impostando defer_loading: true su uno strumento mcp_server, gli strumenti esposti da quel server vengono caricati su richiesta, senza che gli sviluppatori debbano elencarli singolarmente.

Ricerche lato client

Gli sviluppatori possono invece usare il recupero lato client se gestiscono un registro di strumenti, un indice di embedding o un filtro delle autorizzazioni per utente. Dichiarano tool_search con execution impostato su client e definiscono i parametri di ricerca; a quel punto è l’applicazione a effettuare la ricerca.

Questo approccio aggiunge un round trip per ogni ricerca. Non è necessario dichiarare gli strumenti in anticipo e un’applicazione può renderne disponibili di nuovi durante una conversazione, quando un utente collega un’integrazione.

Fatturazione dei token

Tool Retrieval non prevede costi separati. I token di input e di output sono fatturati alle tariffe standard del modello utilizzato.

Attivare tool_search aggiunge un piccolo blocco fisso di token di input. Ogni schema caricato dal modello viene fatturato come input per il resto della conversazione, come avverrebbe per uno strumento dichiarato all’inizio.

Il risparmio di token dipende dal fatto che gli schemi lasciati non caricati prevalgano su quelli recuperati. Google consiglia agli sviluppatori di misurare le prestazioni della funzionalità sul proprio traffico.

Fonti

  1. Fonte originale · Post del blog Google blog.google

Aziende in questa notizia

Notizie correlate

Esplora

Altri articoli