Google Gemini 编辑推荐
Gemini API 推出 Tool Retrieval:上百个工具按需加载,不再每次请求都烧一遍 token
Google 在 Gemini Interactions API 上线 Tool Retriev…
文章目录

核心看点
- Gemini API 推出 Tool Retrieval(预览版):工具参数 schema 按需加载,不必每次请求都塞进全部工具库
- 模型仍能看到所有工具的名称和描述,需要时才拉取完整 schema,同一次请求内完成检索与调用
- 无需自建索引,服务端完成检索;与前缀缓存、远程 MCP 服务器天然兼容
- 支持 Gemini 3.6 及之后所有模型(含全系 Gemini 4),无额外收费
详细解析
Google 于 11 月 19 日在 Gemini Interactions API 中上线 Tool Retrieval 预览版,解决的是智能体开发里的一个老大难:工具一多,token 就爆。
当一个 agent 接入几十甚至上百个工具时,传统做法是把每个工具的完整参数 schema 全部放进每次请求里。这会带来三个问题:输入 token 暴涨、延迟增加,以及候选工具越多、模型选错工具的概率越高。
Tool Retrieval 的做法是”待命而非常驻”:
- 在请求里加一个
tool_search工具,把想延后的工具设defer_loading: true - 模型看得到每个延后工具的名字和描述,所以知道有什么可用,但参数 schema 不占上下文
- 模型按名字”点单”,API 在同一次请求内加载完整 schema,随后模型发出函数调用
- 三个步骤(tool_search_call → tool_search_result → function_call)都会记录在
interaction.steps里,方便调试时回看模型考虑过哪些工具
几个设计细节值得开发者注意:
- 零运维:检索完全在 Google 服务端跑,不用自己建索引或托管服务,代码改动只有加工具和加一个 flag。高频工具可以常驻,长尾工具延后。
- 省钱逻辑:没有单独收费,按标准 token 费率计。开启 tool_search 只多一小块固定输入 token,之后每个被加载的 schema 按输入计费——只要”从没被加载的 schema”多于”被加载的”,通常就净赚,官方建议按自己的流量实测。
- 兼容前缀缓存:延后 schema 不在 prompt 开头,后续按需追加,缓存前缀轮轮保持不变。
- 兼容远程 MCP:给
mcp_server工具设 defer_loading,该服务器暴露的所有工具都按需加载,不用逐个罗列。 - 客户端检索:如果自建工具注册表、embedding 索引或按用户的权限过滤,可声明
"execution": "client"自己执行查找,代价是每次检索多一个来回;好处是工具无需预先声明,对话中途接上新集成也能即时暴露。
总结
工具数量是智能体能力的天花板之一,但过去它和 token 成本、选择准确率是一对矛盾。Tool Retrieval 本质上是把”工具库”从 prompt 搬进了服务端按需取用的货架,让”百工具 agent”的经济性和准确率同时改善。对正在做多工具智能体的团队,这个预览版值得马上试一把。
本文地址:https://www.163264.com/22575


