Mistral AI 发布首个推理模型 Magistral，含开源版 Magistral Small

宣布推出 Magistral —— Mistral AI 的首个推理模型 —— 在领域特定、透明和多语言推理方面表现出色。

人类最出色的思考并非线性 —— 它穿梭于逻辑、洞察、不确定性与发现之间。推理语言模型使我们能够将复杂的思考和深度理解增强并委托给 AI，从而提升我们解决需要精确、逐步推演和分析的问题的能力。

但这一领域仍处于萌芽阶段。缺乏领域特定问题所需的专业深度、透明度有限，以及无法以所需语言进行一致的推理 —— 这些只是早期思维模型已知局限中的一部分。

今天，我们很高兴地宣布我们对 AI 研究的最新贡献 —— Magistral，我们的首个推理模型。Magistral 以开源和企业两个版本发布，旨在以我们熟悉的方式进行思考，同时带来跨专业领域的专业知识、你可以跟随并验证的透明推理，以及深度的多语言灵活性。

一次性的物理模拟，在 Preview 版 Magistral Medium 中展示重力、摩擦和碰撞。

亮点。

Magistral 是一个双版本发布的模型，专注于真实世界的推理和反馈驱动的改进。

我们以两种变体发布该模型：Magistral Small —— 一个 24B 参数的开源版本，以及 Magistral Medium —— 一个更强大的企业版本。

Magistral Medium 在 AIME2024 上得分 73.6%，在多数投票 @64 下得分 90%。Magistral Small 分别得分 70.7% 和 83.3%。

原生推理 —— Magistral 的思维链可跨全球语言和字母表运作。

适用于广泛的企业用例 —— 从结构化计算和程序化逻辑到决策树和基于规则的系统。

借助 Le Chat 中新的 Think 模式和 Flash Answers，你可以以比大多数竞争对手快 10 倍的速度获得响应。

此次发布得到了我们最新论文的支持，该论文涵盖了对 Magistral 的全面评估、我们的训练基础设施、强化学习算法，以及训练推理模型的新颖观察。

由于我们已将 Magistral Small 开源，我们欢迎社区审查、修改并基于其架构和推理过程进行构建，以进一步加速思维语言模型的出现。我们此前的开源模型已被社区用于令人兴奋的项目，如 ether0 和 DeepHermes 3。

专为透明推理而打造。

Magistral 针对多步逻辑进行了微调，提升了可解释性，并以用户的语言提供可追溯的思考过程，这与通用模型不同。

我们的目标是从此次发布开始快速迭代该模型。预计这些模型将不断改进。

多语言灵活性。

该模型在众多语言中保持高保真推理方面表现出色。Magistral 尤其适合用英语、法语、西班牙语、德语、意大利语、阿拉伯语、俄语和简体中文进行推理。

在 Le Chat 的 Preview 版 Magistral Medium 中以阿拉伯语进行提示和响应。

使用 Le Chat 实现快 10 倍的推理。

借助 Le Chat 中的 Flash Answers，Magistral Medium 的 token 吞吐量比大多数竞争对手快达 10 倍。这实现了大规模的实时推理和用户反馈。

Le Chat 中 Preview 版 Magistral Medium 与 ChatGPT 的速度对比。

应用中的多功能性。

Magistral 非常适合需要更长思考处理和比非推理 LLM 更高准确性的通用用途。从法律研究和财务预测到软件开发和创意叙事——该模型能解决透明度和精确性至关重要的多步骤挑战。

商业战略与运营。

基于我们的旗舰模型，Magistral 专为研究、战略规划、运营优化和数据驱动决策而设计——无论是执行多因素风险评估和建模，还是在约束条件下计算最优交付窗口。

受监管行业和领域。

法律、金融、医疗保健和政府专业人士可获得符合合规要求的可追溯推理。每个结论都可以通过其逻辑步骤追溯，为高风险环境提供可审计性，并配备领域专业化的 AI。

系统、软件和数据工程。

Magistral 增强了编码和开发用例：与非推理模型相比，它通过涉及外部工具或 API 的有序多步骤操作，显著改进了项目规划、后端架构、前端设计和数据工程。

内容与传播。

我们的早期测试表明，Magistral 是一位出色的创意伙伴。我们强烈推荐它用于创意写作和叙事，该模型能够生成连贯的——或者如果需要的话——令人愉悦的古怪文案。

可用性

Magistral Small 是一个开放权重模型，可根据 Apache 2.0 许可证进行自部署。你可以从以下位置下载：

Hugging Face：https://huggingface.co/mistralai/Magistral-Small-2506

你可以在 Le Chat 中试用 Magistral Medium 的预览版，或通过 La Plateforme 上的 API 使用。

Magistral Medium 也可在 Amazon SageMaker 上使用，并即将在 IBM WatsonX、Azure AI 和 Google Cloud Marketplace 上推出。

如需企业和定制解决方案，包括本地部署，请联系我们的销售团队。

顺便说一句，我们正在招聘！

Magistral 代表了 Mistral AI 对开源社区的重要贡献，其中包含资深专家和实习生的投入。我们渴望壮大我们的团队，以进一步塑造未来的人工智能创新。

如果你有兴趣加入我们实现人工智能民主化的使命，我们欢迎你申请加入我们的团队！