40B 参数只激活 2.5B:Recursive 开源 Flint,笔记本上每秒 131 个 token
一个不到十人的团队,用不到四个月,从零训练出一个能在笔记本上离线运行的代码模型。Recursiv…
文章目录
一个不到十人的团队,用不到四个月,从零训练出一个能在笔记本上离线运行的代码模型。Recursive 把这件事当作一次公开实验:如果 AI 能参与造 AI,速度会有多快?
一分钟速览
- Flint 是 Recursive 发布的首个模型,免费、Apache 2.0 许可,已在 Hugging Face 开放下载。
- 采用混合专家架构,总参数 400 亿,每个 token 只激活 25 亿。
- 在搭载 M4 Pro 的 MacBook Pro 上生成速度约 131 token/秒,同类模型为 58 至 69 token/秒。
- 在 SWE-Bench Verified 上,成绩优于所有 500 亿参数以下的对比模型。
- 公司称研发几乎每一步都有自研自动化研究系统 Eureka Machine 参与,小团队四个月内完成从零构建。
“AI 造 AI”的第一次公开测验
递归自我改进是行业里争议最大的概念之一:AI 改进 AI,再改进下一代 AI。担忧者的理由很直接——一旦改进速度超过人类审核速度,控制权就会松动。Recursive 的做法把这个概念缩小到可验证的尺度:让 AI 当研究助理,由人把关,产出一个足够小、可以被普通人跑起来的模型。
公司的背景给了这次发布额外的分量。它去年成立,5 月结束隐身状态时拿到 6.5 亿美元融资,估值 46.5 亿美元,投资方包括 GV、英伟达和 AMD Ventures;CEO Richard Socher 是 Salesforce 前首席科学家。资本押注的显然不只是一个代码模型,而是”用 AI 缩短研发周期”这条方法论。
参数效率是真正的看点
40B 总参数、2.5B 激活,这组数字决定了 Flint 的定位。它比 Meta 上周发布的开放模型 Muse Spark Open 小了两个数量级——后者 8160 亿参数,至少需要 1TB 内存;而 Flint 的目标是一台普通笔记本。
速度数据也支持这一定位:M4 Pro 上 131 token/秒,在英伟达 RTX Spark 上超过 150 token/秒。对代码补全这类高频、短输出的场景,速度比绝对智力更重要。
能力边界同样清晰。在 SWE-Bench Verified 上它是 500 亿参数以下最强,但在 Recursive 自己的六项测试平均分上,只有阿里的 Qwen3.8 27B 高于它。公司也承认,Flint 比大型付费编程助手需要更多引导,建议把任务拆小。
本地模型的真实价值
把模型放到用户自己的电脑上,带来三个直接好处:可以离线使用、代码不出本机、不用按 token 付费。对企业来说,第三点常被低估——当编程助手被全公司使用时,云端推理账单会随使用量线性增长,而本地模型的边际成本接近于零。
代价是维护。开源模型没有持续的云端更新,企业需要自己负责版本、评测和安全策略。这也是为什么这类模型更可能先在设计、外包、教育等对数据外流敏感的团队里落地。
接下来该看什么
一是 Eureka Machine 的可复现性。如果”四个月从零造模型”能被第三方复制,研发成本的定价方式会被重写;如果只是一次精心策划的展示,那它仍然是个不错的开源代码模型,仅此而已。二是社区微调的活跃度——Apache 2.0 允许自由修改和商用,真正的生态会在发布后六周内见分晓。三是硬件适配,llama.cpp 与 Apple Silicon 的支持程度,决定了它能否从演示走进日常工作流。
本文地址:https://www.163264.com/17672