Gemini API: Tool Retrieval lädt Agenten-Tools nur bei Bedarf
Kurz gesagt: Google hat am 19. November 2026 „Tool Retrieval“ für die Gemini API vorgestellt (Vorschau, Interactions API). Das Modell sieht zunächst nur Name und Beschreibung der Tools und holt sich das vollständige Schema erst bei Bedarf. Es gibt keine Zusatzgebühr, aber auch keine veröffentlichten Benchmarks.
Bild: Pressefoto (blog.google)
Wer KI-Agenten baut, kennt das Problem: Je mehr Werkzeuge ein Agent kennt, desto mehr Platz fressen ihre Beschreibungen im Kontext – bei jeder einzelnen Anfrage. Google reagiert darauf mit Tool Retrieval in der Gemini API. Laut dem Google-Blog vom 19. November 2026 müssen Agenten nicht mehr bei jeder Anfrage die vollständigen Parameter-Schemata aller Tools mitschicken.
So funktioniert es
Entwickler fügen ein tool_search-Tool hinzu und markieren Tools mit defer_loading: true. Das Modell sieht dann nur Name und Beschreibung dieser Tools. Braucht es eines, fordert es das Tool namentlich an, die API lädt das Schema nach, und der Aufruf passiert in derselben Anfrage. Die Suche läuft serverseitig bei Gemini, ein eigener Index ist nicht nötig. Alternativ lässt sich die Suche mit "execution": "client" in der eigenen Anwendung ausführen, etwa über eine eigene Tool-Registry oder einen Embedding-Index; das kostet pro Suche einen zusätzlichen Roundtrip. Auch ganze MCP-Server lassen sich zurückhalten.
Verfügbarkeit und Kosten
Die Funktion ist als Vorschau in der Interactions API verfügbar und läuft mit Gemini 3.6 und neuer, einschließlich aller Gemini-4-Modelle. Eine eigene Gebühr gibt es nicht: Abgerechnet werden Ein- und Ausgabe-Tokens zum normalen Modellpreis. Das tool_search-Tool selbst belegt einen kleinen festen Block an Eingabe-Tokens, und jedes nachgeladene Schema zählt danach für den Rest des Gesprächs als Eingabe. Sparen lässt sich also vor allem bei großen Tool-Bibliotheken, in denen die meisten Tools nie gebraucht werden.
Unsere Einordnung: kein neues Prinzip, aber Zahlen fehlen
Google zieht damit nach: Anthropic bietet ein vergleichbares „Tool Search Tool“ mit defer_loading bereits als stabile Funktion an. Nach Anthropics eigener Dokumentation kann ein typisches Mehrserver-Setup rund 55.000 Tokens allein für Tool-Definitionen verbrauchen; Tool Search senke das typischerweise um über 85 Prozent. Außerdem gibt Anthropic an, die Treffsicherheit bei der Tool-Auswahl lasse oberhalb von 30 bis 50 Tools nach. Das sind Herstellerangaben für Claude und lassen sich nicht auf Gemini übertragen.
Wichtig: Der Google-Beitrag nennt keine Benchmarks, keine Token-Einsparung in Zahlen und keine Latenzwerte. Die Vorteile bleiben qualitativ, Google empfiehlt, die Wirkung am eigenen Datenverkehr zu messen. Unabhängige Vergleiche zwischen den Ansätzen von Google und Anthropic haben wir bislang nicht gefunden.
Für Nutzer in Deutschland ist das vor allem für Entwickler und Firmen relevant, die Agenten mit vielen Anbindungen betreiben – etwa an Kalender, Mailsysteme und Smart-Home-Schnittstellen. Normale Gemini-Nutzer merken davon nichts direkt; mittelbar können Assistenten mit vielen Werkzeugen aber günstiger und zielsicherer arbeiten, falls sich die Versprechen in der Praxis bestätigen.