Anthropic、外部の評価機関に社員並みの情報を開示
公開 2 分で読めます
Anthropic は 10 月 15 日、自社の AI モデルと安全対策を外部の評価機関に調べてもらう取り組みの進み具合を発表しました。最先端の AI モデルの評価を手がける非営利団体 METR のチームに、社員とほぼ同じ情報を見られる立場(employee-like access)を与え始めたとしています。METR は、評価したリスクの結果を公表します。
要点
- METR の 6 人を受け入れ、社内のリスク評価の担当とほぼ同じ道具とシステムを使えるようにしました。
- 顧客のデータ、弁護士との秘匿の情報、モデルの構造などを除き、社員と同じように情報を共有します。
- Anthropic は METR の公表を止められず、決まった種類の情報を伏せるよう求められるだけです。
- 評価機関との関係を 3 段階に分け、METR は最も深い 3 段階めにあたります。
- SecureBio は 1 段階めで、8 月のリスク報告書の化学・生物兵器の章を調べています。
- Accenture・Faculty とも、モデルの評価やレッドチーム(攻撃役の試験)で協力を進めています。
Anthropic は先月、自社のモデルと安全対策を第三者がより厳しく評価する仕組みを約束していました。ホワイトハウスの「超知能に関する協定」にも署名しています。協定では、各社が独立した外部の監査や評価の機関と組むことを約束しています。安全対策の情報には、悪用されるおそれのあるものや商取引上の秘密もあり、すべてを公開できないため、外部の評価機関に深く見てもらい、根拠と考えを公表してもらう形にしたとしています。
評価機関には、最先端のモデルを評価する専門性、評価する会社の株を持たず資金や運営を頼らない独立性、リスクを評価できるだけの情報、結果を公表する自由が要るとしています。1 段階めでは調べる範囲を絞り、公表には Anthropic の承認が要ります。2 段階めでは承認なしで公表でき、見られる情報も増えます。Hugging Face など、ほかの団体とも話し合いを始めています。Anthropic は、最先端の AI を開発するすべての会社が同じように評価機関を受け入れるべきだとしています。
日本の利用者にとって
モデルの使い方や料金が変わる発表ではありません。Claude のリスクの評価を外部の団体が公表するようになるため、安全性を確かめる材料が増えることになります。
YOBITSUGI AI で使えるか
YOBITSUGI AI では Anthropic の Claude を使えます。
出典
- An update on independent evaluators(Anthropic News・2026年10月15日)
