微软AI完成MAI-Base-2预训练
先了解这件事
Microsoft AI 宣布完成 MAI-Base-2 的预训练，这是一个 800 亿激活参数、2.8 万亿总参数的混合专家（MoE）基础模型。微软称，在 held-out 评测中该模型的 BPB（每字节比特数）低于所测全部开源权重模型，预训练 FLOPs 效率为 DeepSeek-V4-Pro-Base 的 4.2 至 12.3 倍。 Microsoft AI CEO Mustafa Suleyman 称，MAI 已完全自研出 3T 参数权重级别的 SOTA 预训练基础模型，后训练结果即将发布；他还称在 held-out 代码上，团队用少 12 倍的训练算力就达到 DeepSeek-V4-Pro-Base 的预训练分数，并称 MAI-Base-2 全程训练稳定。上述效率、评测与对比结果均出自微软方面的说法。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Mustafa SuleymanMicrosoft AI 的 Mustafa Suleyman 称用 1/12 训练算力在代码上追平 DeepSeek-V4-Pro-Base
Mustafa Suleyman 提出 scaling laws 正在叠加效率增益，并称在 held-out 代码上，其团队用少 12 倍的训练算力就达到了 DeepSeek-V4-Pro-Base 的预训练分数。
- Mustafa SuleymanMicrosoft AI 宣布自研 3T 参数级预训练基础模型达到 SOTA
Microsoft AI CEO Mustafa Suleyman 宣布，MAI 已完全自研出 3T 参数权重级别的 SOTA 预训练基础模型。后训练结果即将发布，技术细节见博客 https://microsoft.ai/news/frontier-pre-training-at-microsoft-ai/。
- Microsoft AI：官方博客精选Microsoft AI 公布 MAI-Base-2 预训练细节，2.8T 参数 MoE 模型 FLOPs 效率达 DeepSeek-V4-Pro-Base 的 4.2 至 12.3 倍
Microsoft AI 宣布完成 MAI-Base-2 预训练，这是一个 800 亿激活、2.8T 总参数的 MoE 基础模型，在 held-out 评测中 BPB 低于所测全部开源权重模型，预训练 FLOPs 效率比 DeepSeek-V4-Pro-Base 高 4.2 至 12.3 倍。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。