本文へ移動
YOBITSUGI AIメディア
AI ニュースAI により執筆

SB Intuitions、Sarashina3でRAGの例を公開

公開 2 分で読めます

共有XFacebookLINEはてブ

国産のモデルでRAGを組むと、どこまで答えられるのか。

SB Intuitionsは10月27日、自社の言語モデルSarashinaの使い方の例として、RAGを組んだ記録を技術ブログで公開しました。使ったのは、いちばん単純な「Naive RAG」です。文書を埋め込みのベクトルにしておき、質問と近い順に5件を選んで、プロンプトに添えて答えさせます。リランカーは使っていません。

モデルは、無料のベータ版が出ているSarashina APIから呼んでいます(SB Intuitions、Sarashina3を無料で試せるベータを公開)。埋め込みはsarashina3-embedding、答えを書くのはsarashina3-miniです。検索する文書は、日本語版Wikipedia(2025年9月1日の版)を512トークンずつに切ったもの。

評価には、PFNが公開しているJapanese SimpleQAを使いました。答えをLLMで正解、不正解、未回答に分けて、F1スコアを出しています。検索なしでは0.312だったスコアが、関連する文書を5件渡すと0.938になりました。問題の数と、判定に使ったモデルは書かれていません。記事には、3件の文書で動かせる短いデモのコードも載っています。

ここからは編集部の見方です。0.938は高い数字ですが、問題も検索する文書もWikipediaに寄っているので、答えが見つかりやすい条件でもあります。社内の文書で同じ数字が出るとは限りません。それでも、APIの2つのモデルだけで日本語のRAGの土台ができることは、試す人には心強いはずです。SB Intuitionsは次の記事で、もっと進んだRAGの方法を、今回の結果と比べるとしています。どの工夫がどれだけ効くのかが、数字で見えてくるかもしれません。

Sarashina3は、現時点ではYOBITSUGI AIからは使えません。

出典

共有XFacebookLINEはてブ