自动路由真能省钱吗？Cloudflare 甩出数据：可靠性高 10 个百分点、成本只要三分之一，但有人不买账

模型路由是个听起来很划算的生意：简单问题交给便宜模型，难题交给贵模型，账单自然就下来了。但真做过智能体的人都知道，事情没这么简单——省下的那点 token 钱，可能还不够人工修一次错误输出。Cloudflare 最近通过 AI Gateway 推出 Auto Router 公测版，把模型设成 cloudflare/auto，分类器就会为每个请求挑一个模型。有意思的是，他们公布的基准测试里，自家路由器其实是输的那一方。

一分钟速览

• 路由分两阶段：先建候选模型池，过滤掉无法处理当前请求格式的模型，并应用凭证、计费、访问控制和支出限制；再由边缘 GPU 上的多头分类模型为 14 类任务分配概率。
• 分类器从四个维度给请求打 1～5 分：复杂性、歧义性、风险程度、对先前上下文的依赖程度。
• 选型公式是公开的：”效用 = 预期质量 – 自适应成本惩罚”。任务越难，价格权重越低。
• 分类只看最近几轮对话，文本上限 8KiB；响应会带 cf-aig-routed-model 和 cf-aig-routing-reason，方便事后审计。

数据说了什么

Cloudflare 的测试包含 97 个任务，每个模型采样三次，做了 1 万次 Bootstrap 重采样。结论是：可靠性提高约 10 个百分点，成本约为原来的三分之一。团队可以自己决定站在质量还是成本这一边——而大多数路由产品甚至不提供这种选择。

从事智能体工程的 CTO Jacques B 在 LinkedIn 上点出了真正该看的指标：如果还需要有人额外花一个小时修正结果，那么更便宜的模型其实并没有省下多少成本。这句话是整件事的关键。路由的收益不能只算 API 账单，还要算返工成本、延迟和用户信任。Cloudflare 把可靠性提升和成本下降同时摆出来，算是把这道题答得比较诚实。

批评者的两个问题

最尖锐的质疑指向分类机制本身。曾参与银行和医疗平台开发的技术负责人 Igor Pyrin 指出，风险评分只看偏重最近几轮的精简上下文：在一次较长的智能体会话里，用户可能很早就说过”这是客户退款”，后面只说一句”继续执行”。如果路由器只看到这句短指令，就会把风险等级降下来——而真正提交操作的那一轮，往往恰好是整个对话里看起来最便宜的一轮。

他的建议是让应用自己维护跨轮次的风险标签，用它来判断请求能不能走 cloudflare/auto。这个建议很实用：路由应该被”钉住”，而不是让一条短指令悄悄改变底层操作的权限。

第二个问题是会话成本。如果没有传会话 ID，同一段对话里的请求可能被分给不同模型，提示词缓存就没法复用。Cloudflare 对此加了一项随上下文长度增长的模型切换惩罚——因为新模型可能要重新生成推理 token，并按输出价格计费。这个设计合理，但也说明”自动路由”并不是无脑省钱，它需要应用侧配合做会话管理。

Reddit 上的争论更直接。有评论者认为自动路由器”最终会让你花更多的钱，却得到更低的智能”，如果结果重要，直接用更强的模型反而更便宜；也有人反驳说计量单位应该是任务而不是请求。还有一个 Cloudflare 自己承认的问题：分类其实更适合交给大模型来做，而路由权重来自基准测试，新模型必须手动加入评分矩阵，否则会过时。

工程细节决定可用性

几个容易被忽略的限制：目前只支持 Chat Completions 和 Responses API，不支持 WebSocket；公测期间免费，之后价格未公布；可以通过 cf-aig-allowed-models 和 cf-aig-allowed-providers 请求头针对单个请求限制模型池，但还不能保存成路由配置文件——这正是发布讨论里被提出的需求。

还有一处值得复现基准的团队注意：默认模型池列的是 Claude Opus 5、Sonnet 5、Fable 5，以及 GPT-5.6 Luna、Sol、Terra 和 Grok 4.5；而表格里作为两项基线的 Opus 5.5 和 GPT-6 Sol 却在必须通过请求头才能使用的可选列表里。Cloudflare 说模型池”可能随时间变化”，这也许只是配置漂移，但对照测试前最好确认自己的网关到底选中了哪些模型。

路线图里还有 cloudflare/auto-best：用同样的分类器和模型池，但不考虑成本，直接选预期质量最高的模型。对金融、医疗这类容错率低的场景，这可能是更合适的选择。

趋势：路由正在从”省钱工具”变成”治理层”

Auto Router 真正的意义，不在于它能省多少 token，而在于它把”选哪个模型”这件事变成可审计、可约束、可解释的动作。请求头里带回来的路由原因、可按请求限制的模型池、按任务难度调整的价格权重，这些都是在为企业的模型治理打基础。

但治理的前提是上下文完整。如果路由器只看到最后一句”继续执行”，它就没有资格替应用做风险判断。这也是所有自动路由产品共同面对的问题：模型选择可以自动化，责任不能自动化。