OpenAI は 2026 年 11 月 16 日、AI の安全性を外部の目で検証する新たな取り組みを発表しました。契約を結んだのは Apollo Research・METR・Transluce・Goodfire の 4 組織で、「組み込み型評価(Embedded Assessments)」と呼ばれるプログラムの第一フェーズが正式に始まりました。ホワイトハウスが推進する AI 安全に関する国際的な枠組みへのコミットメントとして位置づけられています。
これまで AI 企業の安全評価といえば、モデルの公開前に外部機関が限られた情報を基に検査する形が一般的でした。今回の取り組みが異なるのは、評価のタイミングと情報へのアクセス範囲です。 4 組織はソースコードや学習データ、内部の監視システムといった通常は非公開の情報に直接触れることができ、OpenAI のエンジニアや研究者との対話も認められています。機密性の高い作業は OpenAI のオフィス内で行うとされており、外部機関にここまで踏み込んだアクセスを認めるのは同社として初めてのことです。
各組織が担う役割はそれぞれ明確です。Apollo Research は 6 名のチームが 4 か月間にわたって社内に常駐し、AI が開発者の意図を無視して秘密裏に動作していないかを検証します。METR は同社史上最大規模となった学習プロセスで意図しない振る舞いが生じていないかを調べます。Transluce はトレーニング後のモデルが適切に調整されているかを評価し、2027 年初頭にはより本格的な追加調査も予定しています。Goodfire は通常のテストでは見落とされがちな問題を、解釈可能性ツールを使ってモデルの内部から検出します。
情報開示のルールも整備されています。各組織は独立した立場で評価結果を公表できますが、OpenAI は企業秘密や安全上の懸念がある場合に限り、一部の情報を非公開にしたり開示を遅らせたりする権限を持ちます。ただし Apollo Research との合意では、評価の「結論」そのものを OpenAI が書き換えることは認められておらず、非開示とした情報については書面での明示が義務づけられています。最終的な争議の裁定は、財団理事会傘下の安全・セキュリティ委員会が担います。
一方、この取り組みへの評価は割れています。多くの AI 安全研究者は、2026 年 9 月に Altman CEO が「社員と同等のアクセスを認める」と約束していた水準には届いていないと指摘しています。Redwood Research の CEO Buck Schlegeris 氏は「失望的だが、驚きはない」と率直に述べました。対して Apollo Research は「より深い関与と開示権に向けた野心的な第一歩」と前向きに評価しており、受け止め方は関係者によって異なります。
OpenAI は今後数か月以内にプログラムをさらに拡充する方針で、将来的には技術的な検証にとどまらず、社内の文化や組織プロセスそのものを対象とした評価も視野に入れています。
