微软完成 SOTA 基础模型 MAI-Base-2 的预训练
微软宣布已完成新一代基础模型 MAI-Base-2 的预训练。该模型总参数规模达到 2.8 万亿，活跃参数为 800 亿，使用 6000 张 NVIDIA GB200 GPU 训练了 38 天。微软称，MAI-Base-2 的性能超过所有参与评测的开源权重模型。训练期间，平均浮点算力利用率为 21%，有效吞吐量达到 89%。微软还表示，该模型的预训练算力效率是 DeepSeek-V4-Pro-Base 的 4 至 12 倍。公司将成果归因于科学规模化、模型与基础设施协同设计以及数据规模化。目前，微软已开始准备 MAI-Base-3。上述性能和效率数据主要来自微软自身披露，尚未在此进行独立验证。
本文来源：IT之家,AIbase，仅供学习参考，版权归原作者所有。