跳到正文
Preferred Networks:AI 研究与产品·· 12 小时前精选AI 评分61

PFN 开放翻译特化模型 PLaMo 3 Translate,0.8B 至 31B 四个尺寸可离线运行

PFN、世界最高水準のAI翻訳がエッジで可能な大規模言語モデル PLaMo 3 Translate をオープンウェイトで公開

AI 导读

Preferred Networks 将自家翻译服务使用的翻译特化 LLM PLaMo 3 Translate 以开放权重形式在 Hugging Face 公开,提供 0.8B、2B、8B、31B 四个尺寸。

推荐理由

翻译特化模型以开放权重放出四个尺寸,小型机型也能在断网设备上本地运行,可据此评估端侧翻译部署方案。

正文 · AI 翻译

株式会社Preferred Networks(总部:东京都千代田区,代表董事社长:冈野原大辅,以下简称PFN)今日将PFN的AI翻译服务 PLaMo™翻译 所使用的翻译专用大语言模型(LLM)PLaMo 3 Translate*作为开放权重模型,在PFN的Hugging Face页面上公开。由此,最近一个财年收入或销售额低于10亿日元的企业及个人,可在PLaMo社区许可证下下载该模型,无论商用还是非商用,均可在智能手机、笔记本电脑、公司内部服务器等边缘设备上,无需经由云端免费使用。

使用最小尺寸的PLaMo 3 Translate 0.8B,在无网络连接的飞行模式智能手机上执行AI翻译的界面示例(等倍速,在演示用环境中运行)

PLaMo 3 Translate是公开了在各用户设备上运行所需“模型权重”的开放权重模型,可根据所需的翻译质量、速度、处理量和使用设备,从0.8B(8亿参数)、2B、8B、31B四种尺寸中选择。用户将PLaMo 3 Translate集成到面向各终端设备的应用中,即可在智能手机和笔记本电脑上实现包括日语、英语在内的53种语言的高质量翻译,即使没有网络连接也能高速运行(演示视频)。 

PLaMo 3 Translate与现有翻译专用AI的翻译质量比较。左为日英翻译,中为日语与多语言之间,右为英语与多语言之间的结果。横轴为模型规模(对数刻度),纵轴为翻译质量评价得分,越靠左上表示模型越小、质量越高。(基于包括公司内部基准在内的PFN评估)

PFN此次以扩大生成式AI基础模型PLaMo的认知度、通过面向边缘设备的LLM利用促进开放创新等为目的,将PLaMo 3 Translate作为开放权重模型公开。借此探索旅游、商务、灾害应对等各种用例。

PLaMo 3 Translate的特点

1. 小模型也能实现高质量翻译
在PFN的比较评估中,PLaMo 3 Translate的最小模型也取得了超过现有翻译专用LLM——Google的TranslateGemma和Tencent的Hy-MT2的分数。即使没有大规模计算环境,也能在手边获得高质量译文。

2. 可根据所需速度和使用设备选择尺寸

可根据所需的翻译质量、响应速度、处理量和使用的设备,从4种尺寸的模型中选择。小型模型即使不连接网络,也能在智能手机、笔记本电脑、可穿戴设备等上高速运行,即时获得译文。从个人终端使用,到公司内部服务器运营,再到嵌入自家产品和服务,均可选择适合用途的配置进行导入。

3. 机密信息无需发送至外部服务器即可翻译
在自家管理的服务器或终端上运行模型,就无需将原文和译文发送至外部服务器,翻译处理可在公司内部完成。对于因合同限制而难以向外部发送信息的合同书、研发资料、客户应对文档等,也能按照公司的信息管理方针进行AI翻译。

4. 可指定专有名词等的对译和日语的句末表达
可将原文前后的上下文作为参考信息提供,并通过术语表指定专有名词、专业术语、产品名的对译,从而自定义翻译输出。翻译为日语时,可指定敬体(です・ます调)和常体(だ・である调)。

公开模型的获取方法

各模型已在AI模型共享网站Hugging Face上公开,可按照PLaMo社区许可证的条件获取。可在手边的电脑或智能手机上,一边确认实际处理文档的翻译质量和速度,一边研究向自家公司的导入。使用方法及许可证详情请参阅各模型的说明页面。

在公司内部业务中使用、嵌入自家产品和服务等商业利用,可在PLaMo社区许可证规定的范围内进行。超出此范围的商业利用,需要与PFN签订商业许可合同。有关导入咨询和合同的问询,请通过咨询表单提交。

性能评估的详细内容和开发经过,请参阅PFN Tech Blog《PLaMo 3 Translate:世界顶级翻译专用LLM的权重公开与开发秘闻》。

*大语言模型PLaMo 3 Translate是PFN以与国立研究开发法人信息通信研究机构(NICT)的共同研究所得预训练模型“PLaMo 3 NICT”为基础,开发的翻译专用模型。

来源:Preferred Networks:AI 研究与产品 · preferred.jp