Mistral 发布 Mistral Small 3.1,Apache 2.0 开源并支持 128k 上下文
Research Mistral Small 3.1 March 17, 2025 By Mistral
Mistral AI 发布 Mistral Small 3.1,称其在同类权重模型中优于 Gemma 3 和 GPT-4o Mini,推理速度达 150 tokens 每秒,上下文窗口扩展至 128k tokens,并以 Apache 2.0 许可证开源。
官方公告给出具体基准对比、部署门槛和开放下载渠道,读者可据此评估它能否替代现有小型私有模型。
今天我们宣布推出 Mistral Small 3.1:同量级中最好的模型。
在 Mistral Small 3 的基础上,这一新模型带来了改进的文本性能、多模态理解能力,以及扩展至最多 128k tokens 的上下文窗口。该模型的表现优于 Gemma 3 和 GPT-4o Mini 等同类模型,同时推理速度达到每秒 150 tokens。
Mistral Small 3.1 以 Apache 2.0 许可证发布。
现代 AI 应用需要多种能力的结合——处理文本、理解多模态输入、支持多种语言,以及管理长上下文——同时还要具备低延迟和成本效率。如下所示,Mistral Small 3.1 是首个开源模型,不仅达到、实际上还超越了领先的小型专有模型在所有这些维度上的表现。
下面你将找到有关模型性能的更多细节。只要有可能,我们会展示其他提供商此前报告的数字,否则我们通过共同的评估工具对模型进行评估。
指令性能
文本指令基准
多模态指令基准
MM-MT-Bench 缩放至 0 到 100 之间。
多语言
长上下文
预训练性能
我们还发布了 Mistral Small 3.1 的预训练基础模型。
所有预训练
Mistral Small 3.1 是一个多功能模型,旨在处理广泛的生成式 AI 任务,包括指令遵循、对话辅助、图像理解和函数调用。它为企业级和消费级 AI 应用提供了坚实的基础。
关键特性与能力
轻量:Mistral Small 3.1 可以在单张 RTX 4090 或配备 32GB RAM 的 Mac 上运行。这使其非常适合设备端使用场景。
快速响应的对话辅助:非常适合虚拟助手以及其他需要快速、准确响应的应用。
低延迟函数调用:能够在自动化或智能体工作流中快速执行函数
针对专业领域进行微调:Mistral Small 3.1 可以微调以专精于特定领域,打造准确的领域专家。这在法律咨询、医疗诊断和技术支持等领域尤为有用。
高级推理的基础:社区如何在开放的 Mistral 模型之上进行构建,持续令我们印象深刻。就在过去几周,我们看到了几个基于 Mistral Small 3 构建的优秀推理模型,例如 Nous Research 的 DeepHermes 24B。为此,我们发布了 Mistral Small 3.1 的基础版和指令版检查点,以便对该模型进行进一步的下游定制。
Mistral Small 3.1 可用于各种需要多模态理解的企业和消费级应用,例如文档验证、诊断、设备端图像处理、质量检查中的视觉检测、安全系统中的目标检测、基于图像的客户支持,以及通用辅助。
Mistral Small 3.1 可在 huggingface 网站下载:Mistral Small 3.1 Base 和 Mistral Small 3.1 Instruct。对于需要私有且优化推理基础设施的企业部署,请联系我们。
从今天起,你也可以通过 Mistral AI 的开发者平台 La Plateforme 上的 API 试用该模型。该模型也可在 Google Cloud Vertex AI 上使用。Mistral Small 3.1 将在未来几周内上线 NVIDIA NIM 和 Microsoft Azure AI Foundry。
祝你构建愉快!
来源:Mistral AI:News · mistral.ai