融资近10亿:墨芯用“稀疏计算”撬开国产推理芯片的新窗口
一枚大模型请求进来,通用 GPU 习惯性地把大量参数从头到尾过一遍;但在真实的大模型里,真正被激…
文章目录
一枚大模型请求进来,通用 GPU 习惯性地把大量参数从头到尾过一遍;但在真实的大模型里,真正被激活的参数,可能只有总参数量的百分之几。剩下的计算,既费电,也费钱。这个看似简单的反差,正在把“稀疏计算”从论文里的优化技巧,推成 AI 芯片竞争的新主线。

近日,墨芯人工智能完成近 10 亿元新融资。距离上一轮近 10 亿元融资,只过去了 5 个月。资本连续加注的背后,是一个更具体的判断:当大模型从“能跑”进入“算得起”的阶段,专门为稀疏推理设计的芯片,可能迎来属于自己的窗口期。
一分钟速览
- 墨芯人工智能完成近 10 亿元融资,5 个月内连续两轮,累计金额接近 20 亿元。
- 公司自 2018 年起专攻稀疏计算,核心是“权重稀疏 + 激活稀疏”的双稀疏算法,以及算法、软件、硬件协同设计。
- 大模型 MoE 架构让“条件计算”成为常态:以 DeepSeek 为例,总参数约 1.6 万亿,处理每个词元只激活约 490 亿参数,占比约 3%。
- 墨芯 S30 计算卡在 MLPerf Inference 部分测试类别中,能效比与单位算力推理吞吐保持行业领先。
- 推理集群已在四大片区铺开,并落地海上风电算力 Token 工厂、遥感影像智能分析等场景。
为什么“少算一点”突然值钱了
过去两年,大模型竞争的主线是参数规模。参数越多,能力越强,似乎是一条默认公式。但 MoE 架构的普及改变了这件事:模型可以拥有巨大的总参数量,却在每次推理时只调用其中一小部分“专家”。这让计算从“全量扫描”变成了“按需激活”。
问题在于,通用 GPU 要为训练、推理、科学计算等多种负载服务,很难针对某一种稀疏模式做极致优化。模型层面省下来的计算量,到了硬件层面,往往又被无效的数据搬运、算子调度和内存访问吃掉。于是,一个关键问题浮出水面:能不能让芯片本身“理解”稀疏?
墨芯的答案,是把稀疏做成芯片的原生能力。其“双稀疏”路线同时利用权重稀疏和激活稀疏,再通过编译器、芯片架构与软件工具链的协同设计,减少无效计算和数据搬运。这个方向并不新鲜,难的是把它做成可量产、可部署、可迁移的工程体系。
从实验室指标到真实机房
芯片行业的残酷之处在于,跑分只是入场券。真正决定商业化成色的,是客户敢不敢把业务放上去。墨芯披露的进展里,有两个场景值得注意。
一个是海上算力 Token 工厂。该项目依托海上风电绿电和海水冷却降低 PUE 与电费,但如果推理效率不够高,绿电带来的成本红利仍可能被算力开销抵消。墨芯试图用稀疏架构,从芯片侧降低单 Token 推理成本,让“绿电降本”和“架构降本”叠加。
另一个是遥感影像智能分析。墨芯与北京大学上海临港国际科技创新中心地球与空间技术研究院合作,把两款国际主流遥感影像分析基础模型适配到自研算力卡上。在几乎不损失业务精度、无需下游任务重新训练的条件下,推理吞吐获得明显提升。这类验证的意义在于:稀疏计算不只是实验室里的峰值数字,而是能在真实数据、真实模型上跑出效率。
在 MLPerf Inference 测试中,S30 计算卡在所参与的部分类别里,能效比与单位算力推理吞吐保持行业领先。墨芯还计划发布升级版软件栈 SECA,强化大模型推理部署与集群运维支持,降低模型迁移门槛。今年 8 月,公司发起“稀疏计算产学研联盟”,试图把单点技术积累变成行业协同。
数据背后的产业逻辑
把几个数字放在一起看,趋势会更清楚。DeepSeek 这类 MoE 模型,总参数 1.6 万亿、单 Token 激活约 490 亿,激活比例约 3%;这意味着超过九成的参数在单次推理中并不参与计算。与此同时,企业调用大模型的成本已经从“元”级降到“角”甚至“分”级,价格战压缩了云厂商的毛利,也把压力传导到算力底座。
谁能用更少的电、更少的卡、更低的延迟完成同样的推理,谁就能在下一轮算力采购里拿到订单。专用稀疏推理芯片的机会,正来自这里。
趋势洞察
但这条路线也有明显的挑战。第一,稀疏不是万能钥匙:不同模型、不同框架的稀疏模式差异很大,芯片要兼容生态,软件栈的成熟度比峰值算力更重要。第二,通用 GPU 仍在快速迭代,CUDA 生态的惯性极强,客户迁移成本高。第三,融资能加速研发,却买不来规模化交付,真正的考验是能否在更多行业复制标杆项目。
从“算得更多”转向“算得更聪明”,是这一轮 AI 基础设施竞争的共同命题。墨芯押注的稀疏计算,未必是唯一答案,但它至少提供了一条不靠堆卡、不靠堆电的差异化路径。对国产芯片而言,这种在架构层面寻找变量的尝试,比单纯追赶制程更值得关注。
结语
大模型的下半场,不只是模型能力的比拼,也是单位智能成本的比拼。当稀疏计算从“可选项”变成“必选项”,芯片公司真正的护城河,不会只是一颗芯片,而是算法、编译器、软件栈和行业方案组成的整套系统。墨芯拿到了新一轮弹药,接下来要证明的,是这套系统能否在更多机房里稳定运转。
本文地址:https://www.163264.com/19535


