リコー、日本語向けセーフガードモデルを Gemma 4 で小型化

リコーは 10 月 20 日、生成 AI への入力と、生成 AI が出す答えが安全かどうかを判定する日本語向けの「セーフガードモデル」の改良版を開発したと発表しました。セーフガードモデルは、本体の AI の前後に置いて、有害な依頼や答えを見つける見張り役の言語モデルです。11 月から順次、リコージャパンの「RICOH オンプレLLMスターターキット」に標準で載せます。

要点

• もとにするモデルを Llama-3.1-Swallow-8B から、Google の gemma-4-E4B-it に替えました。
• 判定の性能を前のモデルと同じ水準に保ちながら、少ない計算資源で動くとしています。
• 判定の性能を表す F1 スコアは、入力の評価で 0.900、出力の評価で 0.942 でした。
• 必要以上に使い方を制限しないよう、安全かどうかの判定の基準を見直しました。
• 13 種類の有害のカテゴリーに加え、追加の学習なしで独自の判定のラベルを足せます。

評価では、前のモデル(Llama-Ricoh-SafeGuard-20260520)の F1 スコアが入力 0.891・出力 0.952、Qwen3Guard-8b が 0.834・0.851、Llama Guard 3 が 0.556・0.618 でした。新しいモデルは入力の判定でわずかに上回り、出力の判定ではわずかに下回っています。入力の評価データは、国立情報学研究所の AnswerCarefully Dataset 2.0 とリコーのデータの計 476 件、出力の評価データはリコーのデータ 508 件です。

判定の基準を見直したのは、言語モデルの性能が上がり、これまで安全のために一律に断っていた内容でも、目的や文脈によっては役に立つ答えを返せる場面が増えたためだとしています。独自のラベルを足す機能を使うと、業界の決まりや会社ごとの指針に合わせた判定ができます。リコーは 2024 年 10 月に言語モデルの安全の取り組みを始め、5 月からは前のモデルを Hugging Face で無償で公開しています。

日本の利用者にとって

日本語の入力と出力を判定するモデルで、社内で生成 AI を使う企業の安全の仕組みに向いています。今回の改良版を Hugging Face で公開するかは、発表では触れていません。

YOBITSUGI AI で使えるか

現時点では YOBITSUGI AI からは使えません。