Mistral 发布 Mistral Large 2，123B 参数支持 128k 上下文并开源研究许可权重

Mistral Large 2 具有 128k 上下文窗口，支持数十种语言，包括法语、德语、西班牙语、意大利语、葡萄牙语、阿拉伯语、印地语、俄语、中文、日语和韩语，以及 80 多种编程语言，包括 Python、Java、C、C++、JavaScript 和 Bash。

Mistral Large 2 专为单节点推理而设计，并考虑了长上下文应用——其 1230 亿参数的规模使其能够在单个节点上以高吞吐量运行。我们根据 Mistral Research License 发布 Mistral Large 2，该许可证允许用于研究和非商业用途的使用和修改。如需商业使用 Mistral Large 2 并要求自行部署，必须通过联系我们获取 Mistral Commercial License。

在评估指标上，Mistral Large 2 在性能/服务成本方面树立了新的前沿。特别是在 MMLU 上，预训练版本达到了 84.0% 的准确率，并在开放模型的性能/成本帕累托前沿上树立了新的点。

继我们在 Codestral 22B 和 Codestral Mamba 上的经验之后，我们在非常大比例的代码上训练了 Mistral Large 2。Mistral Large 2 大幅超越了之前的 Mistral Large，并与 GPT-4o、Claude 3 Opus 和 Llama 3 405B 等领先模型表现相当。

我们还投入了大量精力来增强模型的推理能力。训练期间的关键重点之一是最小化模型“幻觉”或生成听起来合理但事实上不正确或无关信息的倾向。这是通过微调模型使其在响应中更加谨慎和明辨来实现的，确保其提供可靠和准确的输出。

此外，新的 Mistral Large 2 经过训练，能够在其无法找到解决方案或没有足够信息来提供自信答案时予以承认。这种对准确性的承诺反映在模型在流行数学基准上的性能提升中，展示了其增强的推理和问题解决能力：

代码生成基准上的性能准确率（所有模型均通过相同的评估流程进行基准测试）

MultiPL-E 上的性能准确率（所有模型均通过相同的评估流程进行基准测试，但“paper”行除外）

GSM8K（8-shot）和 MATH（0-shot，无 CoT）生成基准上的性能准确率（所有模型均通过相同的评估流程进行基准测试）

我们大幅提升了 Mistral Large 2 的指令遵循和对话能力。新的 Mistral Large 2 在遵循精确指令和处理长多轮对话方面尤其出色。下面我们报告在 MT-Bench、Wild Bench 和 Arena Hard 基准上的性能：

通用对齐基准上的性能（所有模型均通过相同的评估流程进行基准测试）

在某些基准上，生成长篇回复往往会提高分数。然而，在许多商业应用中，简洁性至关重要——较短的模型生成有助于加快交互，并且推理成本更低。这就是为什么我们花费了大量精力来确保生成内容尽可能保持简洁和切中要点。下图报告了不同模型在 MT Bench 基准问题上的平均生成长度：

如今，大量业务用例都涉及处理多语言文档。虽然大多数模型以英语为中心，但新的 Mistral Large 2 是在大量多语言数据上训练的。特别是，它在英语、法语、德语、西班牙语、意大利语、葡萄牙语、荷兰语、俄语、中文、日语、韩语、阿拉伯语和印地语方面表现出色。以下是 Mistral Large 2 在多语言 MMLU 基准测试上的性能结果，与之前的 Mistral Large、Llama 3.1 模型以及 Cohere 的 Command R+ 进行了比较。

多语言 MMLU 上的性能（在基础预训练模型上测量）

Mistral Large 2 配备了增强的函数调用和检索技能，并经过训练以熟练执行并行和顺序函数调用，使其能够作为复杂业务应用的强大引擎。

您现在可以通过 la Plateforme 以 mistral-large-2407 的名称使用 Mistral Large 2，并在 le Chat 上测试它。它可在版本 24.07（我们正在对所有模型应用的 YY.MM 版本系统）下使用，API 名称为 mistral-large-2407。指令模型的权重可用，并且也托管在 HuggingFace 上。

mistral-large-2407

我们正在围绕两个通用模型 Mistral Nemo 和 Mistral Large，以及两个专业模型 Codestral 和 Embed，整合 la Plateforme 上的产品。随着我们逐步弃用 la Plateforme 上的旧模型，所有 Apache 模型（Mistral 7B、Mixtral 8x7B 和 8x22B、Codestral Mamba、Mathstral）仍可使用我们的 SDK mistral-inference 和 mistral-finetune 进行部署和微调。

从今天开始，我们正在扩展 la Plateforme 上的微调功能：这些功能现在可用于 Mistral Large、Mistral Nemo 和 Codestral。

我们很自豪能与领先的云服务提供商合作，将新的 Mistral Large 2 带给全球受众。特别是，今天我们正在扩大与 Google Cloud Platform 的合作，通过托管 API 将 Mistral AI 的模型引入 Vertex AI。Mistral AI 的最佳模型现已在 Vertex AI 上可用，此外还有 Azure AI Studio、Amazon Bedrock 和 IBM watsonx.ai。