不给大模型“发电”了:Cloudflare 开源决策模型 Clef,专治 Agent 里的选择题
一个客服工单进来,是紧急还是普通?该转给哪个团队?这种问题,用动辄几百亿参数的大模型来回答,其实…
文章目录
一个客服工单进来,是紧急还是普通?该转给哪个团队?这种问题,用动辄几百亿参数的大模型来回答,其实是一种浪费——你要的只是一个带概率的标签,它却给你生成了一整段散文。Cloudflare 最新开源的决策模型 Clef,就是冲着这种“杀鸡用牛刀”而来。
一分钟速览
- Cloudflare 发布自家训练的决策模型 Clef 与 Clef-flash,托管在 Workers AI 上。
- 在 Jev Decision Index 评测中,Clef 目前排名第一。
- 模型在 Hugging Face 以 Apache 2.0 协议完全开源,可本地运行。
- 同时推出新的强化学习(RL)产品,允许客户对 Clef 做微调。
- 实测中,Clef 抓取、渲染并分类一个网站仅需 2.2 秒,而通用模型需 4.7 秒。
什么是“决策模型”
决策模型的核心,是快速、便宜、稳定地输出“有边界的结构化结果”。比如你给它一条客服消息,它能告诉你“是否紧急”“该归哪个团队”,并以带概率的标签形式返回,你的代码据此路由工单、触发升级,或者转人工。它不需要你为每个新类别重新训练模型,就能适配任意输入的集合。
这刚好补上了大模型的一个盲区:LLM 擅长开放式推理和生成,但不确定性高;而在很多 Agent 流程里,真正需要的只是一次干脆的判定。
数据支撑:2.2 秒 vs 4.7 秒
Cloudflare 在自家的威胁情报团队上做了实测。给定一个域名,配合 Browser Run,Clef 能快速判断它属于哪些类别,比如“95% 概率是时尚网站、85% 电商、低于 1% 钓鱼”。完成抓取、渲染、分类这一整套流程,Clef 只用了 2.2 秒;而在同一工作流里,他们最快的通用模型 gpt-oss-120b 花了 4.7 秒,且只返回了两个分类。
两倍的延迟差距、更丰富的分类结果,意味着在需要快速、程序化决策的场景里,这类模型能实打实地提升 Agent 的自主性。
命名与开源
Cloudflare 解释,“Clef”在乐理中是写在五线谱开头的谱号,用来为线谱上的位置指定具体音高。决策模型之于 Agent 也是如此:它定义上下文的边界,以及接下来该走哪个音符。名字里既藏着巧思,也宣示了定位。更重要的是,模型在 Hugging Face 上以 Apache 2.0 开源,开发者可以下载到本地实验。
趋势洞察:Agent 栈正在“分层”
过去一年,行业习惯用一种大模型包打天下。随着 Agent 走向生产,栈开始分层:大模型负责开放推理,小决策模型负责高频、确定性的判断,二者各司其职。Cloudflare 把“决策模型 + RL 微调平台”打包推出,本质上是在抢 Agent 中间层的位置——那个既非纯模型、也非纯业务的“决策层”。
参考链接
- Cloudflare Blog:Introducing Clef
- Hugging Face 模型主页(见博客内链接)
本文地址:https://www.163264.com/16081