Google Gemini 编辑推荐
Gemini API 上线 Tool Retrieval:上百个工具不再撑爆上下文
谷歌在 Gemini Interactions API 中推出 Tool Retrieval 预…
文章目录

谷歌 11 月 19 日在官方博客宣布,Gemini API 推出 Tool Retrieval(工具检索)功能并进入预览阶段。一句话概括:让 Agent 的工具库保持”待命”状态,需要时再把具体工具的参数说明装进上下文。
核心看点
- 按需加载:模型平时只看到每个工具的名字和描述,参数 schema 不进上下文,调用时才由 API 实时拉取。
- 省 token 又快:当 Agent 接了几十上百个工具,全量 schema 每次都塞进请求,会推高输入 token、增加延迟,还降低工具选择的准确率。
- 改动很小:请求里加一个
tool_search工具,把要延后的函数设成defer_loading: true即可。 - 可调试:搜索、加载、调用三步都记录在
interaction.steps里,方便排查工具命名和描述问题。
详细解析
过去做 Agent 的开发者都有过这种体验:接的工具一多,光是把所有工具的参数定义发一遍,输入 token 就占掉一大截,而且模型在一堆长得差不多的工具里更容易选错。Tool Retrieval 的做法类似 RAG——把完整工具库放在”库房”,请求里只保留每个工具的名字和描述摘要。
当模型判断需要某个工具时,会在同一次 API 调用内先发出 tool_search 请求,API 加载完整 schema,再由模型生成函数调用。谷歌给出的示例代码显示,即使配置了 50 个以上被延后的函数,常用工具仍可以保持不延后,兼顾速度和命中率。
该功能在 Interactions API 中可用,支持 Gemini 3.6 及之后的模型(示例中已出现 gemini-4-hydrogen)。对正在做多工具 Agent 的团队来说,这是个几乎零成本的优化项。
总结
工具多了会”选择困难”是所有 Agent 框架的通病,谷歌用”名字先在、细节后到”的思路解决它。随着 Agent 接入的工具规模越来越大,这类按需加载机制大概率会成为各家 API 的标配。
本文地址:https://www.163264.com/22204


