微软人工智能研究团队公布了一个参数规模达2万亿的基础模型MAI-Base-2，并称其在包含科学、编程和数学题目的内部基准测试中超过了目前能力最强的开源基础模型DeepSeek-V4-Pro-Base，按某些指标衡量，硬件效率最高可达后者的12倍。上述信息由SiliconANGLE报道。

基础模型并非可直接使用的完整大语言模型，而是未经打磨的原型。开发者通常要对其进行若干轮追加训练，用于补充推理能力和安全护栏，才能得到成品模型。微软此次公布的是这一阶段的模型，其性能比较也来自公司内部基准。

MAI-Base-2采用混合专家（MoE）架构，即处理请求时只调用一部分人工神经元，而不是激活整个神经网络。模型共含2万亿参数，在收到提示词时激活其中800亿个。微软上一代基础模型将MoE层与基于FFN这一效率较低设计的模块混用，MAI-Base-2则全部由MoE层构成，微软称这是其性能提升的原因之一。

训练方面，该模型使用1.6万块英伟达GB200芯片训练了38天，训练数据集规模为50万亿个token。其中约五分之一用于训练集成在模型中的一个计算机视觉模块，该模块使模型在理解科学图表等任务上优于前代。

在训练流程上，开发者通过观察模型完成任务的方式并给出反馈来训练模型，反馈由算法生成，形式为一种称为梯度的数学对象，梯度穿过各层并重新校准每层参数以提升输出质量。梯度每经过一层都会发生变化，在某些情况下会引发干扰训练流程的错误。微软采用梯度裁剪的方法避免该问题影响MAI-Base-2，并使用开源AI工具Muon加快训练。

微软将通过Azure云平台向“受信任的合作伙伴”授权MAI-Base-2的权重，同时用该模型支撑一个新的语言模型系列，并计划在不久后公布这些模型的更多信息。