AI ニュースAI により執筆
PFN など 3 者、生成 AI の安全性を継続評価する基盤へ
公開 2 分で読めます
さくらインターネット、Preferred Networks(PFN)、情報通信研究機構(NICT)の 3 者は 10 月 14 日、生成 AI を継続的に評価して改善する「能動的評価基盤」の社会実装に向けた取り組みを始めると発表しました。生成 AI の出力が、日本の法令・文化・商習慣に照らして安全かどうかを確かめ続けるための仕組みです。2025 年 9 月 18 日に結んだ、国産の生成 AI の仕組みづくりを目指す基本合意に基づく取り組みです。
要点
- 決まった質問集で測る今の評価は、質問を学習されると高く出るなど、変わり続けるリスクを捉えにくいとしています。
- NICT は、きわどい質問を自動で作り、生成 AI の答えを自動で評価する仕組みを開発してきました。
- 自動評価では、ヘイトスピーチや誹謗、ハルシネーションの可能性、偏った出力の検知ができつつあるとしています。
- さくらインターネットは、来年度中の運用開始を目指し、「さくらの AI Engine」の国内外の LLM への適用を検討します。
- PFN は NICT と、PLaMo 3.0 Prime の後継となる、日本語性能と安全性を高めたモデルを開発します。
日本の利用者にとって
日本の法令や文化に照らした安全性を、国内の 3 者が継続的に評価しようとする取り組みです。評価の対象には、さくらインターネットの「さくらの AI Engine」で提供している国内外の LLM が挙げられています。運用の開始は来年度中を目指すとしていて、評価の結果をどう公開するかは、発表には書かれていません。
YOBITSUGI AI で使えるか
これは評価の仕組みについての発表です。発表に出てくる PFN の PLaMo 3.0 Prime は、現時点では YOBITSUGI AI からは使えません。
出典
- さくらインターネット、PFN、NICT、生成AIを継続的に評価・改善する「能動的評価基盤」の社会実装に向けた取り組みを開始(Preferred Networks news・2026年10月14日)
