3 万亿参数的 Kimi-K3.1 Pro,摩尔线程在发布当天就跑通了
月之暗面放出 K3.1 Pro 权重两天后,摩尔线程宣布基于 MTT S5000 与 MUSA …
文章目录

月之暗面 11 月 4 日放出 Kimi K3.1 Pro 的完整模型权重,两天后,国产 GPU 厂商摩尔线程宣布完成 Day-0 适配:基于 MTT S5000 智算卡和 MUSA 软件栈,模型可以加载、服务可以启动,文本和图片推理链路都已跑通。
这是一颗什么模型
K3.1 Pro 是 K3.1 系列的首款模型,参数规模 3 万亿级,支持 100 万上下文。经过大规模后训练和强化学习,它在代码、3D 创作、金融研究、知识问答和长程 Agent 任务上都有提升。官方数据是:Terminal-Bench 4.0 得分 65.7%,Kimi Code Bench 3.0 长程任务得分 61.2%,高于上一代 K3 的 55.95%。在 Agent Arena 开放权重模型榜单上,它排在第一位。
适配难在哪
难点不只是把权重搬上卡。K3.1 Pro 用了稀疏注意力 DSA 和 MXFP4 专家权重,计算路径和常规模型不一样。摩尔线程通过 SGLang-MUSA 承接模型实现,再用 MATE 算子库、Triton-MUSA、TileLang-MUSA 和 MTCC 编译器,把索引选择、KV 缓存布局、Prefill 与 Decode 等关键路径迁到自家硬件上。
针对 MXFP4 专家权重,团队采用在线转换、跨层复用 FP8 工作区的做法,不需要提前生成完整的离线 FP8 权重,省掉了超大模型部署时最耗时间的一步。
为什么值得关注
模型发布当天就能在国产算力上跑起来,意味着企业选型时不必只盯着英伟达。对推理服务商来说,多一个可用硬件选项,也就多一点压成本的空间。当然,适配跑通只是第一步,后面还要看多卡扩展、长上下文稳定性和实际吞吐。
本文地址:https://www.163264.com/19644


