リコー、MoE のマルチモーダルモデル LMM_35B-A3B を開発

リコーは 10 月 15 日、日本語の文書や図表を読み取って推論するマルチモーダルの言語モデル「リコーLMM_35B-A3B」を開発したと発表しました。Alibaba の「Qwen3.6-35B-A3B」をもとに、リコー独自の強化学習などで日本語の推論の力を高めたモデルです。11 月から順次、社内の環境で生成 AI を使うための「RICOH オンプレLLMスターターキット」に載せて、リコージャパンから提供します。

要点

• 総パラメーター約 350 億のうち、1 回の処理で使うのは約 30 億の MoE 構成です。
• 図表を含む文書のリコー独自の評価で 0.841 と、GPT-5.6 Sol(0.821)と同等以上でした。
• 日本語のエージェントの評価 j-tau-bench で、正答率が 62.4% から 77.7% に上がりました。
• 同じ内容を繰り返し出し続ける「ループ回答」を抑える学習をしています。
• 4 ビットに量子化した版は、小型の AI サーバー NVIDIA DGX Spark 1 台で動きます。
• 一度に扱える長さは最大 25 万 6,000 トークンで、画像と動画も入力できます。

MoE は、モデルの中を複数の「専門家」に分け、入力に応じて必要な専門家だけを動かす作りです。全体を常に動かす同じ規模のモデルより、計算の量を抑えて速く答えられます。リコーにとって、MoE のモデルをもとにするのは初めてです。

性能は、図表を含む日本語の文書の推論を測るリコー独自の評価「JDocQA-Reasoning Benchmark v2.0」で、もとのモデルの 0.816 から 0.841 に上がりました。処理で使うパラメーターが約 9 分の 1 でありながら、同じ系列の Qwen3.6-27B(0.841)と同じ水準で、Google の gemma-4-26B-A4B-it(0.784)を上回ったとしています。ELYZA-tasks-100 などの一般的な日本語の評価では、もとのモデルと同じ水準を保ちました。j-tau-bench は SB Intuitions が公開した評価で、通信会社の窓口の場面で、決まりに従って道具を使いながら頼まれた作業をこなせた割合を測ります。

4 ビット(NVFP4)の版は、NVIDIA の Blackwell の世代以降の GPU 向けで、元の精度の版と比べて 1 問あたりの答えの時間を約 3 分の 1 にしたとしています。リコーは 6 月に、精度を重んじた「リコーLMM_27B」と軽い「リコーLMM_9B」を発表しており、今回の速さと省資源を重んじたモデルを加えて、用途に応じて選べるようにします。

日本の利用者にとって

設計図と仕様の照らし合わせ、約款や報告書の読み取り、申請書類の処理など、図表の多い日本の社内文書での利用を想定しています。提供はオンプレミスのキットを通してで、重みを一般に公開するかは発表では触れていません。性能の比較の多くはリコー独自の評価による点に注意が要ります。

YOBITSUGI AI で使えるか

現時点では YOBITSUGI AI からは使えません。