跳到文章正文
大模型 编辑推荐

微软自研基础模型 MAI-Base-2 完成预训练:2.8 万亿参数,算力效率是 DeepSeek 的数倍

微软宣布,已经完成新一代基础模型 MAI-Base-2 的预训练工作,官方称其性能超过所有参测的…

微软宣布,已经完成新一代基础模型 MAI-Base-2 的预训练工作,官方称其性能超过所有参测的开源权重模型。

从规格上看,MAI-Base-2 总参数规模达到 2.8 万亿,实际参与运算的活跃参数为 800 亿,整个训练过程在 6000 块 NVIDIA GB200 显卡上进行,耗时 38 天。训练期间平均浮点算力利用率约 21%,有效吞吐量约 89%。

微软表示,这款模型最突出的地方是效率。按官方说法,它的预训练算力效率是 DeepSeek-V4-Pro-Base 的 4 到 12 倍。能做到这一点,微软归纳了三个关键做法:科学地规划规模、让模型和基础设施一起设计、以及扩大数据规模。在完善 MAI-Base-2 的同时,微软已经启动了 MAI-Base-3 的准备工作。

微软 AI 业务 CEO 苏莱曼在员工大会上进一步透露,这款自研基础模型的性能超过了目前驱动 GPT-5.6 Sol 的模型,而训练所用算力只有 OpenAI 的约四分之一。他还提到,以 DeepSeek 作对比,微软所需的计算量只有对方的十二分之一,不过没有说明具体是哪个版本的 DeepSeek 模型。

预训练是开发 AI 模型的第一步,模型要在这阶段通过海量文本、图像数据学习规律,也最烧算力。如果训练效率能明显提高,整体成本就有望随之下降。

本文地址:https://www.163264.com/17027