谷歌发布 Gemini Decision 1:不逐字写答案,只给候选打分
谷歌上线 Gemini Decisions API,用一个只做判断的新模型替代逐字生成:一次请求…
文章目录

过去两年,大模型厂商比拼的是谁能生成更多 Token、谁的推理链更长。谷歌这次换了个方向:推出一个不靠逐字写答案的模型——Gemini Decision 1,并同步上线由它驱动的 Gemini Decisions API。它的工作方式很朴素:拿到输入和一组候选答案,直接打分,然后返回选择结果、概率和置信度。
一分钟速览
- Gemini Decision 1 通过单次前向传播对候选答案评分,不做逐 Token 解码。
- 支持三类任务:是/否判断、2~255 个选项的多项选择、按自定义标准打分。
- 一次请求最多处理 1000 个独立问题,上下文最高 256K Token,可混合文本、图像、音频、视频和 PDF。
- 输入每百万 Token 0.10 美元,输出不收费,官方称成本约为 Gemini 3.5 Flash-Lite 的五分之一。
- 谷歌公布 9 项基准中拿下 7 项第一,Top-1 校准误差 0.0250,明显低于对比模型。
为什么要把「生成」和「判断」拆开
很多线上任务根本不需要一段完整的话。判断一封邮件是不是垃圾邮件、决定一条请求该交给哪个 Agent、给一条商品搜索结果打相关性分数,这些场景要的只是一个结论。用生成式模型做这类事,流程会变得很别扭:先让模型写一段解释,再从文本里把答案抠出来,既慢又容易解析出错。
Gemini Decision 1 把这一步省掉了。开发者提供输入、问题和候选选项,模型直接返回结果。谷歌给出的端到端延迟约为 150~250 毫秒,模型计算阶段的中位延迟在 50~100 毫秒;即便一次请求从 1 个问题增加到 100 个,延迟也基本保持平稳。对需要高频判断的 Agent 循环来说,这个特性比多拿几分准确率更实用。
成绩单:7 项第一,也输了两项
谷歌这次没有只跟通用大模型比,而是拉上了三款对照产品:OpenAI 的 GPT-6 Luna、专做分类决策的 TypeSafe Jev 1.14,以及自家的 Gemini 3.5 Flash-Lite。
在 JevBench 上,Gemini Decision 1 拿到 92.2%,高于 GPT-6 Luna 的 90.9%、Jev 1.14 的 90.0% 和 Flash-Lite 的 86.6%。Amazon ESCI 商品搜索相关性测试中,它的 Macro-F1 为 58.7%,比 GPT-6 Luna 高 4 个百分点,比 Flash-Lite 高 11.5 个百分点。New Yorker Caption 测试差距更大:79.7% 对 68.4%。医学问答 PubMedQA 为 79.8%,多语言测试 Global-MMLU-Lite 为 86.0%,均领先。
但它没有全面碾压。Mind2Web Multimodal 上,TypeSafe Jev 1.14 以 86.8% 略胜它的 86.2%;在更贴近 Agent 场景的 When2Call 工具调用时机测试中,Jev 1.14 拿到 82.0%,Gemini Decision 1 是 79.9%。这说明专用决策模型之间的竞争才刚刚开始,谷歌的先发优势并不牢固。
真正被强调的是「校准」
比准确率更值得看的是概率校准。Top-1 ECE 测试里,Gemini Decision 1 的校准误差为 0.0250,GPT-6 Luna 是 0.0721,TypeSafe Jev 1.14 是 0.0494,Flash-Lite 则高达 0.2104。换句话说,它说自己有八成把握时,实际正确率更接近八成。
这对自动化系统意义很大。一个 Agent 判断某段代码有没有安全漏洞,如果模型给出的概率长期虚高,系统就会在该转人工的时候自作主张。校准做得好,企业才敢把「概率低于阈值就交给人」写成规则,而不是靠拍脑袋设一个数字。
谷歌自己已经用上了
谷歌披露了几个内部场景。Gemini Notebook 用它做实时模型路由,按请求复杂度选择模型档位和思考强度,官方称日常查询延迟最多降低 40%。Google Stitch 的 Rapid Canvas 用它把语音或点击指令快速转成可交互的产品流程线框图。Google Labs 的 CC 产品用它从 200 多个 Emoji 里挑反应。Google Search 内部则把它做成 MCP 工具的安全检测层,识别对抗性输入和内容。
这些案例指向同一个趋势:Agent 系统正在分层。复杂推理交给大模型,大量简单、选项明确的判断交给便宜、快、校准好的小模型。谷歌把这类能力单独做成一个 API,等于承认「判断」本身是一门独立的生意。
对开发者来说,最直接的变化是成本结构。过去一次分类任务也要按生成式模型的价格付费,现在输入 0.10 美元每百万 Token、输出免费,批量跑十万条数据的账单会差出一个数量级。真正的门槛变成了:你能不能把业务问题拆成有限选项和清晰标准。拆不出来,再便宜的决策模型也帮不上忙。
本文地址:https://www.163264.com/20672


