Mistral 在 la Plateforme 推出模型定制与微调服务
Research My Tailor is Mistral June 5, 2024 By Mistral team
Mistral AI 在 la Plateforme 上推出模型定制能力,提供三种微调入口:开源微调 SDK mistral-finetune、la Plateforme 上的 serverless 微调服务,以及面向部分客户的定制训练服务。
原文给出三种微调入口的具体形态、底层 LoRA 技术和适用模型,读者可据此为自建或托管微调选型。
今天,我们在 la Plateforme 上推出模型定制功能,为你的 AI 应用带来性能、速度和精细的编辑控制。现在,你可以轻松高效地让 Mistral AI 模型适应你的特定需求,降低大规模定制生成式 AI 模型所需的成本和专业知识门槛。无论你想在自己的基础设施上微调 Mistral AI 模型,还是利用我们专有的微调技术搭配我们的托管微调服务,我们都能满足你的需求。
微调是一种强大的技术,用于定制和改进 LLM 的性能,为特定应用提供更好的响应、灵活性和效率。当为特定领域或用例定制较小的模型时,它提供了一种匹配更大模型性能的方法,从而降低部署成本并提升应用速度。
在家、在 la Plateforme 上,以及与团队一起定制 Mistral 模型
我们很自豪地宣布推出三种用于专门化 Mistral AI 模型的入口。
用于 Mistral 模型的开源微调 SDK
对于希望在自己的基础设施上微调 Mistral 开源模型的开发者,我们发布了 mistral-finetune,一个轻量且高效的微调代码库。
我们的代码库基于 LoRA 训练范式构建,可实现内存高效且性能出色的微调。借助 mistral-finetune,你可以在自己的基础设施上微调我们所有的开源模型,而无需牺牲性能或内存效率。
la Plateforme 上的无服务器微调服务
为了进一步简化微调、免除基础设施方面的麻烦,我们在 la Plateforme 上推出了新的微调服务。这些服务利用 Mistral 独特的微调技术——经过大量研究与开发打磨而成——实现快速且高性价比的模型适配,以及微调模型的高效部署。这是我们使命中向 AI 应用开发者开放先进科学方法的又一步。我们在底层使用 LoRA 适配器,以防止遗忘基础模型知识,并实现高效的服务。
图 1:对于 Mistral 7B 和 Mistral Small,Mistral LoRA 微调比全量微调更高效,同时性能相近:评估指标是一个归一化的内部基准,与 MTBench 评估非常相似(1 表示以 Mistral Small 的全量微调为参考)。
传统上,微调模型需要企业投入大量资金。我们在该领域的专业知识使我们能够以非常高效的方式提供微调,从而降低训练和服务的成本。
目前,我们的微调服务兼容 Mistral 7B 和 Mistral Small。因此,使用这些模型之一的用户可以立即使用我们的 API 来有效地定制我们的模型,以满足他们的特定需求。我们将在未来几周内为微调服务添加新模型。
在 la Plateforme 上注册即可开始使用,并查看我们关于如何使用自定义 LLM 构建应用的指南和教程。
自定义训练服务
我们的自定义训练服务涉及使用客户自己的专有数据,在客户的特定应用上微调 Mistral AI 模型。这种方法能够为其特定领域创建高度专门化且优化的模型。我们提供诸如持续预训练等先进技术,将专有知识纳入模型权重本身。
这些定制培训服务面向特定客户群体提供,并根据他们的具体需求量身定制。欢迎联系我们的销售团队了解更多信息。
来源:Mistral AI:News · mistral.ai