跳到正文
Preferred Networks:AI 研究与产品·· 13 小时前AI 评分47

Preferred Networks 开源金融特化小模型 PLaMo 3.0 Fin

国産の金融特化型小規模言語モデルPLaMo 3.0 Finをオープンウェイトで公開

AI 导读

Preferred Networks 以开放权重形式在 Hugging Face 发布金融特化小语言模型 PLaMo 3.0 Fin,采用 PLaMo 社区许可证,年收入或销售额低于 10 亿日元的企业及个人可免费商用。

正文 · 原文

株式会社Preferred Networks(本社:東京都千代田区、代表取締役社長:岡野原 大輔、以下PFN)は、フルスクラッチ開発する国産生成AI基盤モデルPLaMo™をベースに、金融機関の実務利用を想定した金融特化型の小規模言語モデルPLaMo 3.0 Finを開発し、本日、PFNのHugging FaceページでオープンウェイトモデルとしてPLaMoコミュニティライセンスのもとに公開*1しました。セキュリティ要件の厳しい金融機関向けに、クラウドの閉域環境やオンプレミス環境への導入にも対応しています。また、本モデルの事後学習において、Reasoning機能やツール利用のための指示追従学習*2を、PFNが自社開発したAI半導体MN-Core™ 2で実施しました。

顧客からの照会内容の緊急度を分類し、JSON*3形式で結果を出力するデモ(検証用環境で作成)

(実際の提供画面や接続外部ツールなどの機能構成とは一部異なります。また入力文は架空であり、出力も一例です。同じ入力文でも異なる結果となる場合があります。)

PLaMo 3.0 Finの主な特長

  • 国立研究開発法人情報通信研究機構(NICT(エヌアイシーティー))との共同研究で得られた事前学習モデル「PLaMo 3 NICT」を基盤として、PFNが日本を中心とした金融分野のデータで追加学習を行い、金融知識を強化。
  • 段階的に考えてから回答するReasoning機能を搭載。推論過程が日本語で出力されるため、回答の根拠を確認しやすい。 
  • 最新情報のWeb検索や計算、社内データベースの参照など、外部ツールを呼び出す機能を追加。
  • 小型モデルで高速動作可能なため、クラウドの閉域環境やオンプレミス環境でもGPU1枚から運用可能。
  • オープンウェイトモデルとしてHugging Faceで公開され、社内業務での利用や自社製品・サービスへの組み込みなど、PLaMoコミュニティライセンスに定める範囲で商用利用可能。
  • 事後学習におけるReasoning機能やツール利用のための指示追従学習を、PFNが自社開発したAI半導体MN-Core 2で実施。AI半導体から基盤モデル、業界特化型モデルまでを国産技術を用いて開発。

PLaMo 3.0 Finおよび評価指標等の詳細はブログをご覧ください:
https://www.preferred.jp/ja/blog/tech/plamo-3-fin-development 

金融機関では、日々の膨大な取引に伴う事務処理やモニタリング、取引先管理、顧客からの問い合わせ対応など、大量の処理を要する業務が数多くあり、なかには迅速な対応が求められる業務も少なくありません。こうした業務すべてに大規模言語モデル(LLM)を使用すると、利用コストがかさみ、費用対効果が見合わない場合があります。また、金融実務に生成AIを組み込むには、金融専門知識に加え、日本の商習慣や制度、金融機関特有の専門用語や業務フローへの対応、顧客情報や取引データなど機密性の高い情報を扱うためのセキュアな閉域環境で効率よく動かせることが求められます。

PLaMo 3.0 Finは、金融機関における業務プロセスの一部を担うAIエージェントの中核モデルとしての利用を想定して、日本の金融知識の強化に加え、複雑な指示に対応するReasoning機能、最新情報のWeb検索や計算、社内データベースの参照といった外部ツールの呼び出し機能を備えています。また、少ない計算資源で高速に動作する小型モデルとして、クラウド閉域環境やオンプレミス環境に導入でき、大量の処理を低コストで実行することが可能です。

これにより、次のような業務への組み込みが考えられます。

  • 問い合わせの分類と振り分け(コンタクトセンター、品質管理)
  • 各種申込書類・添付書類等からの情報抽出・変換・突合(顧客確認(KYC)、預金・為替・融資の手続)
  • アラート・検知情報等の分析(不正検知・モニタリング)
  • 財務・取引情報等に基づく融資先の業況分析、等

金融専門チームによる支援サービス

PFNの金融専門チームでは、各金融機関の独自データや業務ノウハウを金融特化型PLaMoに追加学習させ、セキュアなオンプレミス環境で提供する「各社専用モデル構築サービス」を2025年6月から提供しています。PLaMo 3.0 Finをベースモデルにすることで、自社知識の追加だけでなく、業務フローに沿った推論、自社システムやデータベースの呼び出しに対応する専用モデルの構築が可能になります。

提供形態

各社専用モデルの構築、クラウドの閉域・オンプレミス環境への導入、評価・検証のご相談は、お問合せフォームで受け付けています。

自社開発AI半導体MN-Core 2での追加学習

PLaMo 3.0 Finの事後学習では指示追従学習を、PFNが自社開発したAI半導体MN-Core 2を搭載したPFNグループの計算基盤PFCP™(Preferred Computing Platform™)で実施しました。MN-Core 2は、深層学習の中心となる行列演算に特化し、電力あたりの演算性能を重視して設計されたAI半導体です。

MN-Core 2のような独自のAI半導体を幅広い開発者が活用するには、ハードウェアの性能を十分に引き出しつつ、プログラムの移植に必要な専門知識や開発負担を減らすことが重要です。

この課題に対し、PFNでは、コーディングエージェントを中核に据えた新たなプログラム移植手法の研究開発を進めています。今回のPLaMo 3.0 Finの開発において、この手法を活用したことで、MN-Core 2に関する深い専門知識を持たない開発者でも、複数ボードによる分散学習への対応を含め、指示追従学習用コードの移植を1週間以内に完了することができました。さらに、移植したコードによる学習では、行列演算に優れたMN-Core 2の性能を十分に引き出し、GPUを用いた学習環境と同等の実用的な学習速度を達成しています。短期間でのコード移植と高い学習性能を両立し、AI開発においてMN-Core 2がGPUと並ぶ新たな選択肢となりうることを示しました。

今後の展望

PFNは、AI時代のモデル移植手法の研究開発をさらに進め、高い計算能力と超高帯域幅、使いやすさを兼ね備えたAI半導体を提供し、それを活用した基盤モデルやプロダクト・ソリューションの開発に取り組みます。

また金融分野においては、金融特化型の競争力あるモデルの研究開発を進めるとともに、金融機関における生成AIの業務活用を支援していきます。

PFNは、AI半導体から基盤モデル、業界特化型モデルの開発まで一貫して手がける強みを生かし、国産の技術基盤による日本の産業競争力の強化に貢献していきます。

*1:直近事業年度の収入または売上が10億円未満の企業および個人は、PLaMoコミュニティライセンスのもと、PLaMo 3.0 FinをPFNのHugging Faceページからダウンロードし、商用・非商用にかかわらずプライベートクラウドやオンプレミス環境等で無償利用することができます。

*2:プロンプトで与えられた指示や制約条件を正確に理解し、出力に反映する指示追従性能を強化するための教師ありファインチューニング(SFT:Supervised Fine-Tuning)という学習手法を使います。

*3:JavaScript Object Notation:データをやり取り・保存するための軽量なテキスト形式のこと。

*4:API・Chat(β版)は利用量上限があり、提供内容は予告なく変更・終了する場合があります。また、稼働率などのサービスレベルの保証はありません。

金融専門チームについて https://www.preferred.jp/ja/industries/finance

PFNの金融専門チームは、AI分野の最先端の技術や研究成果を金融領域で実用化することで、金融機関が抱える課題の解決を支援しています。金融特化モデルや各社専用モデルの構築、AIエージェントの開発といった生成AI・LLMの活用から、ポートフォリオ最適化やデリバティブ取引のヘッジ戦略の高度化といったクオンツ領域まで、お客さまの課題に応じたAI活用支援とソリューションを提供しています。また、論文発表やライブラリの開発・公開を通じて、アカデミアやOSSコミュニティとも積極的に関わっています。理論と実務を融合させることで、難易度の高い課題にも的確なアプローチを可能にしています。

国産生成AI基盤モデルPLaMo™について https://plamo.preferredai.jp/

PLaMo(プラモ)は、PFNが主導して国内でフルスクラッチ開発する国産生成AI基盤モデルです。商用版のフラッグシップモデルPLaMo Prime、自動車や製造設備などのエッジデバイス向けに軽量化された小規模言語モデルPLaMo Lite、日本の金融知識を追加学習した金融特化型PLaMo、日本語の翻訳に特化したPLaMo翻訳など、用途に合わせて提供しています。PLaMo Primeはクラウド型API、オンプレミス、Amazon Bedrock Marketplace、Snowflake、Microsoft Foundryで提供しています。国産AI構築プラットフォームmiibo、法人向け生成AIサービスTachyon 生成AI、約1100の自治体が導入するQommonsAIなどのサービスに標準搭載されています。

MN-Core™シリーズについて https://www.preferred.jp/ja/business/chips

MN-Coreシリーズは、AIに必要な計算の特徴である「行列演算」に最適化したプロセッサーで、PFNが神戸大学と共同開発しました。ハードウェアの演算器数を最大化するため、ネットワーク制御回路やキャッシュコントローラ、命令スケジューラなどの機能を内包せず、コンパイラにその機能を持たせて最小限の機能に特化することで、AIの計算処理における実効性能を高めています。MN-Coreを搭載して2020年に稼働したPFNのスーパーコンピュータMN-3は、2020年6月から2021年11月に、スーパーコンピュータの省電力性能ランキングGreen500で3度世界1位を獲得しています。第2世代のMN-Core 2を搭載したサーバとワークステーションを2024年に発売、同年10月にMN-Core 2の計算力を利用できるクラウドサービスPreferred Computing Platform(プリファード・コンピューティング・プラットフォーム、PFCP)の提供を開始。現在、生成AIの推論に特化したMN-Core Lシリーズを開発中で、2027年に発売予定です。

来源:Preferred Networks:AI 研究与产品 · preferred.jp