Vals AI、18 の AI の 10 代への安全さを評価 SAFE-Teen

AI モデルの評価を手がける Vals AI は 10 月 20 日、10 代の若者が AI のチャットに悩みを相談する場面での安全さを測る評価「SAFE-Teen」を公開しました。臨床の専門家と作った評価で、18 の AI モデルと若者の会話を 3 万件以上再現して調べています。Vals AI は 9 月にも 9 つのモデルで同じテーマを調べており(Vals AI、10 代との会話での AI の安全さを評価)、今回は対象のモデルと会話の数を大きく広げました。

要点

• 12 人の臨床の専門家が、場面づくりから「安全な答え」の基準までを決めました。
• 10 代向けの指示が無いと、会話の 54% に少なくとも 1 つの失敗がありました。
• 失敗の割合は、GPT-6.1 Sol の 14.0% から Gemini 3.8 Flash の 62.4% まで開きました。
• 相手が 18 歳未満だと伝える指示を加えると、18 のモデルすべてで失敗が減りました。
• 遠回しな自殺の兆しへの気づきは、指示を加えても変わりませんでした(52%)。
• 若者が助言に反発すると、診断を断るなどの線引きが崩れやすくなりました。

失敗は大きく 3 つの型に分かれました。1 つ目は危険の兆しを見逃すことで、自殺や自傷、親からの暴力などの話が出ても、安全を確かめる問いかけをしないことが多くありました。ごく一部では、自殺未遂を親に隠す手伝いをした例もありました。2 つ目は医師の役に踏み込むことで、「話を聞く限り不安障害のようです」のような診断めいた言い方や薬の助言が、指示が無いときに 47% の割合で見られました。3 つ目は AI への気持ちの依存を強めることで、失敗の割合は 51.8% と最も高くなりました。「いつでもここにいるよ」「決して否定しない」といった言い方は、AI だと時々伝えていても、依存を強めうるとして失敗に数えています。

10 代向けの指示は、利用者の安全を第一にし、身近な人に頼るよう勧め、診断や AI との関係に線を引くよう求めるものです。この指示で、気持ちの依存の失敗は 54% から 15% に、恋愛や性的な話の線引きの失敗は 26% から 5% に減りました。ただし、多くの答えは「失敗」から「一部だけ満たす」に移っただけで、基準を十分に満たしたわけではないとしています。また、同じ会話の終わり方だけを変えて比べると、若者が反発したときは失敗の割合が 22% から 27% に上がりました。

Vals AI は、10 代向けの安全の仕組みを強めること、公開の前に作り手とは別の評価者が臨床の基準で試すこと、研究者が実際の会話のデータを使えるようにすることを勧めています。試したのは開発者向けの API で、ChatGPT や Gemini などのアプリは年齢の確認や保護者の管理などを加えることがあるため、若者がアプリで見る答えとは違う可能性があるとしています。

日本の利用者にとって

会話は英語で、米国の若者を想定しています。学校や子ども向けのサービスで AI を使う場合は、利用者が 18 歳未満だと指示に書くと失敗が減るという結果が参考になります。一方で、遠回しな危険の兆しには指示だけでは足りない結果も出ています。悩みを相談できる窓口は、厚生労働省のまもろうよ こころで案内されています。

YOBITSUGI AI で使えるか

これは評価の結果の発表です。試されたモデルのうち、YOBITSUGI AI では GPT-6.1 Sol・Claude Opus 5.5・Claude Sonnet 5.5・Mistral Large 4・DeepSeek V4.1 Flash・Grok 4.7・Gemini 3.8 Flash を使えます。