Zum Inhalt springen
AI.info

The Pulse

Google stellt bedarfsgesteuerten Tool-Abruf für die Gemini API vor

Google stellt Tool Retrieval in der Gemini Interactions API als Vorschau bereit. Entwickler können damit bei Bedarf Parameterschemata für Tools laden. Die Funktion ist ohne Aufpreis verfügbar und unterstützt Gemini 3.6 und neuere Modelle.

Google stellt bedarfsgesteuerten Tool-Abruf für die Gemini API vor

Entwickler können Parameterschemata für Tools jetzt bei Bedarf laden, statt mit jeder Anfrage eine vollständige Bibliothek zu senden. Möglich macht das eine Vorschau in der Gemini Interactions API. Google hat die Funktion namens Tool Retrieval am 19. November vorgestellt.

Die Funktion arbeitet mit Gemini 3.6 und neueren Modellen, darunter allen Gemini-4-Modellen. Google zufolge kann das Senden vollständiger Schemata für umfangreiche Tool-Bibliotheken die Zahl der Input-Tokens und die Latenz erhöhen sowie die Genauigkeit der Tool-Auswahl verringern, wenn die Liste der Kandidaten wächst.

Tools bei Bedarf laden

Um die Funktion zu aktivieren, fügen Entwickler einer Anfrage ein tool_search-Tool hinzu und setzen bei den Tools, die sie zurückhalten möchten, defer_loading: true. Das Modell kann weiterhin den Namen und die Beschreibung jedes zurückgehaltenen Tools sehen, dessen Parameterschema bleibt jedoch bis zum tatsächlichen Bedarf außerhalb des Kontexts.

Benötigt das Modell ein Tool, fordert es dieses namentlich an. Die API lädt das vollständige Schema, und das Modell ruft die Funktion innerhalb derselben Anfrage auf. Eine Suche, das Laden eines Schemas und ein Funktionsaufruf erscheinen in interaction.steps. Dort können Entwickler sie einsehen, wenn sie Fehler bei Tool-Namen oder -Beschreibungen untersuchen. Nach dem Funktionsaufruf führt die Anwendung die Funktion aus und gibt ein function_result zurück.

Gemini führt die Suche auf dem Server aus. Entwickler müssen dafür keinen Index erstellen oder hosten. Häufig verwendete Tools können von Anfang an geladen bleiben, während andere zurückgehalten werden.

Caching und Remote-Server

Tool Retrieval funktioniert auch mit Präfix-Caching. Zurückgehaltene Schemata bleiben am Anfang des Prompts außen vor, während vom Modell geladene Schemata später im Gespräch hinzugefügt werden. So bleibt das gecachte Präfix zwischen den Gesprächsrunden unverändert.

Die Funktion unterstützt außerdem Remote-MCP-Server in der Gemini API. In dieser Konfiguration lädt defer_loading: true bei einem mcp_server-Tool die von diesem Server bereitgestellten Tools bei Bedarf, ohne dass Entwickler sie einzeln auflisten müssen.

Clientseitige Suchen

Entwickler können stattdessen einen clientseitigen Abruf nutzen, wenn sie eine Tool-Registry, einen Embedding-Index oder einen benutzerspezifischen Berechtigungsfilter verwalten. Sie deklarieren tool_search mit dem Wert client für execution und definieren die Suchparameter. Anschließend führt die Anwendung die Suche aus.

Dieser Ansatz erfordert pro Suche einen zusätzlichen Roundtrip. Tools müssen nicht im Voraus deklariert werden, und eine Anwendung kann während eines Gesprächs neue Tools bereitstellen, wenn ein Nutzer eine Integration verbindet.

Abrechnung der Tokens

Für Tool Retrieval fallen keine gesonderten Kosten an. Input- und Output-Tokens werden zu den Standardtarifen des verwendeten Modells abgerechnet.

Wird tool_search aktiviert, kommt ein kleiner, fester Block an Input-Tokens hinzu. Jedes Schema, das das Modell lädt, wird für den Rest des Gesprächs als Input abgerechnet – so, als wäre das Tool von Anfang an deklariert worden.

Wie viele Tokens eingespart werden, hängt davon ab, ob die nicht geladenen Schemata die abgerufenen aufwiegen. Google empfiehlt Entwicklern, die Funktion anhand des eigenen Traffics zu messen.

Quellen

  1. Originalquelle · Blogbeitrag Google blog.google

Unternehmen in dieser Meldung

Verwandte Meldungen

Entdecken

Weitere Artikel