350 亿参数扩散模型杀进 Agent 主场:Clover 用「块扩散」把代码和工具调用提速一倍
让它写一个太阳系模拟器,思考约 1 秒,4 到 5 秒之后,一个能拖动、能缩放、能看行星轨道的交…
文章目录
让它写一个太阳系模拟器,思考约 1 秒,4 到 5 秒之后,一个能拖动、能缩放、能看行星轨道的交互页面就出现在屏幕上。再丢一堆简历信息过去,要求整理成 LaTeX 代码,十来秒完成。这种响应速度,在过去两年里几乎只属于那些把推理链砍到最短的闭源模型。
但这一次,跑出这个速度的不是自回归模型,而是一个扩散语言模型。10 月 29 日,扩散智能(DiffuSpace)发布 Clover 系列首个成员 Clover-35B-A3B-Preview,以 Apache 许可开源。它证明的不只是「扩散模型也能写代码」,而是一句更硬的判断:扩散语言模型在更大参数尺度上,可以和同规模自回归模型正面竞争,甚至略胜一筹。
一分钟速览
- Clover-35B-A3B-Preview 采用 MoE 架构,总参数 350 亿,每个 token 激活约 30 亿,支持思考模式。
- 采用块扩散(block diffusion):把待生成内容分块,多个位置同时更新,经过数轮去噪逐步收敛。
- 在工具使用评测 τ³ Overall 拿到 65.3,BFCL-v4 拿到 67.9,位居前列。
- 在网页 Agent 评测 WindTunnel 的 49 个任务、每任务 3 次尝试中,中位执行时间明显短于以速度著称的 Jev。
- 多项基准超过同规模自回归模型 Qwen3.6-35B-A3B,尤其擅长智能体编程与工具调用。
- 团队来自香港大学孔令鹏教授与博士生龚珊三、叶佳成,扩散语言模型研究可追溯到 2022 年的 DiffuSeq 与 2025 年的 Dream 7B。
「词语接龙」和「同时填字」的区别
要理解 Clover 的意义,得先分清两种生成方式。
自回归模型是逐个预测下一个 token,生成一个、接上一个,像词语接龙。优点是每一步都有完整的前文作条件,缺点是串行——生成长文本时,等待时间随长度线性增长。
扩散语言模型换了一种做法:允许多个位置同时更新,再经过几轮完善,逐步得到结果。所谓去噪,可以理解为把被遮住或受扰动的内容,一轮一轮恢复成符合上下文的文字。
Clover 用的是块扩散:把待生成的内容切成若干块,一块之内多个位置并行推进,块与块之间保持顺序。这样一轮计算就能推动多个位置的生成,减少逐 token 等待。理论上,这是扩散路线相对自回归最直接的效率红利。
真正的难题不在生成,而在记忆
扩散模型的麻烦在于,它往往需要多轮去噪才能把结果定下来。轮数太少,内容还没调整好;轮数太多,计算开销又上去了。到了代码和 Agent 任务,问题会进一步放大——上下文在不断变长,之前的要求、已经执行的操作、工具返回的结果,都会影响下一步。
Clover 的解法是把「历史记忆」和「当前生成」分开处理。它围绕块扩散重构了门控 Delta 网络(GDN):已经生成的上下文被压缩进一个持续更新的状态,供后续步骤读取;当前正在生成的块则通过双向注意力,让块内的 token 相互参考。
同时,它把历史记忆的读出作为独立的信息单元,与当前 token 一起参与注意力计算,让模型自己学习如何权衡前文与当前内容;再用可学习的块大小校准,缓解块变大后历史信息被稀释的问题。
这三处改动的方向是一致的:让并行生成、历史利用和计算效率三者不再互相拖累。这也是扩散语言模型能不能从「论文里的加速技巧」变成「能跑 Agent 的生产模型」的分水岭。
Agent 任务才是真正的考场
扩散模型做 Agent,过去的失败模式很具体:工具调用的格式可能出错;也容易在同一个步骤上反复尝试,没能根据返回结果调整动作。
Clover 的演示重点就落在这类连续操作上。通过 WebMCP,它连续处理六项任务——开票、课程报名、金额汇总、活动状态查询、客户信息查询、发票信息查询,全程自己调用工具、读取反馈、继续执行。在线上购物场景中,它能按指定款式、黑色、L 码找到 T 恤,加入购物车,填写访客信息,走完测试结账流程,速度上明显快于对照的闭源模型。
代码侧的成绩同样是硬指标:SWE-bench Verified 考察真实代码仓库的问题解决能力,Terminal-Bench 2.1 考察终端任务执行能力,Clover 在这两项上都拿出了与同规模开源模型相比有竞争力的成绩。再加上生成 HTML 页面、写 LaTeX 这类「一次成稿」的任务,它的定位已经很清楚——不是聊天玩具,而是干活的手。
为什么这条路线现在值得押注
扩散语言模型的吸引力来自两个结构性优势。
第一是并行。Agent 的工作循环是「生成一段、调用工具、看结果、再生成一段」,每一段都不长,但次数极多。逐 token 生成的固定延迟在这里会被放大成用户体验的断点;并行生成能把这段等待压下去。
第二是双向建模。生成过程中前后内容可以相互参考,多个位置能在迭代里共同调整。对代码这类强依赖结构的输出,这是一种不同于从左到右的解法。
学术界和产业界已经在多条路上试探:何恺明参与的 ELF 尝试在连续嵌入空间里生成语言,谷歌的 DiffusionGemma 探索并行文本生成,国内也有团队在做面向代码的扩散语言模型。方法各异,目标一致——把另一种生成方式,变成能用的能力。
Clover 的价值在于,它把进展放进了代码、工具调用和连续任务里,交给用户上手验证,而不是停在榜单截图。350 亿参数、30 亿激活、Apache 开源,这套组合意味着任何一支工程团队都可以自己跑一遍,判断它到底行不行。
扩散路线能不能成为自回归之外的第二条主干,现在下结论还早。但至少在这个十月,它第一次拿出了「在 Agent 主场也能打」的证据。
本文地址:https://www.163264.com/18492