AI倫理・規制・セキュリティ Anthropic

Anthropic、セキュリティ評価のために外部 AI 評価機関 METR に従業員と同等のアクセス権を付与

Anthropic、セキュリティ評価のために外部 AI 評価機関 METR に従業員と同等のアクセス権を付与
文字サイズ

Anthropic は 2026 年 10 月 15 日、非営利研究機関 METR(Model Evaluation and Threat Research)の 6 名チームに対して、社内の従業員に準じたアクセス権を与えると発表しました。

METR はカリフォルニア州バークレーを拠点とする組織で、最先端の AI モデルが長時間にわたって自律的に作業をこなせるかどうかを評価することを専門としています。今回の措置によって、METR の研究者は Anthropic 支給のパソコンやオフィスを使えるほか、社内のリスク評価チームとほぼ同じ内部システムにもアクセスできるようになります。

特に注目したいのは、調査結果の公表に関するルールです。METR は Anthropic のリスク管理やトラブル対応について独自に評価をまとめ、自由に公表できます。Anthropic はそれを差し止める権利を持ちません。削除を要請できるのは、顧客データや弁護士との間の機密情報、モデルの技術的な詳細といった、ごく限られた情報に限られます。

Anthropicはこの取り組みを、銀行に常駐する金融庁の検査官制度になぞらえて説明しています。外部評価者へのアクセス権限は 3 段階に体系化されており、METR は最も広範な権限を持つ最上位に位置します。中間の第 2 段階は現在参加組織を募集中で、最も限定的な権限にあたる第 1 段階には、生物兵器などの悪用リスクを専門に研究する非営利団体 SecureBio が参加しています。SecureBio は調査結果の公表に Anthropic の承認が必要など制約はあるものの、同社の 2026 年 8 月版リスクレポートのうち化学・生物兵器に関する章のレビューを実際に担当しており、専門領域に絞った評価者として機能しています。

この発表の直接的なきっかけは、Anthropic の CEO ダリオ・アモデイが 2026 年 9 月 12 日に公開したエッセイです。そのなかでアモデイは、外部の独立した評価者を AI 企業の内部に常駐させる仕組みを提唱し、政府が他の大手 AI 企業にも同様の対応を求めるべきだと主張していました。その後、トランプ大統領が同月末に提示した業界との自主協定に、アモデイは Google、Meta、OpenAI などの幹部とともに署名しています。

Anthropicは「自主的に外部評価者を受け入れており、主要な AI 企業すべてが同じ姿勢をとるべきだ」と述べており、OpenAI も同様の取り組みを約束しています。AI エージェントが指示から外れた動作をするインシデントが 2026 年 8 月下旬から相次いでいるなか、今回の発表は業界全体の透明性と説明責任を高めるための具体的な一歩として注目されています。

もっとも、穿った見方をすれば、別の側面も見えてきます。万が一、将来的に AI が深刻なトラブルを引き起こした場合、「外部の独立機関が事前にアクセスして評価していた」という事実は、Anthropic にとって世間からの批判をかわす盾にもなり得ます。外部評価者を内部に組み込む構造は、責任の一端を外部機関と分かち合う仕掛けとも解釈できるわけです。企業が自主的に透明性を高める姿勢は歓迎すべきことですが、こうしたガバナンスの枠組みが実質的な安全確保につながるのか、それとも体裁を整えるための予防線に留まるのか、今後の運用を注視していく必要があります。