2026年 9月21日、OpenAI は公式ブログ「Building standards for the next phase of AI（次世代 AI のための標準構築）」を公開し、次世代 AI の安全な開発・運用に向けた提案を発表しました。CEO の Sam Altman と CTO の Jakub Pachocki が連名で署名したこの文書は、AI が自らを改善していく仕組み——「再帰的自己改善（ RSI ）」——をどう管理するかという、業界が避けて通れない課題に正面から向き合ったものです。
RSI とは簡単に言えば、AI が人間の手を借りずに自分自身をアップグレードし続ける技術です。実現すれば AI の進化が急激に加速する可能性がある一方、制御を失うリスクも伴います。OpenAI は「現時点でこの技術は完成していない」としながらも、人間が適切に監視・管理できると確認できるまでは開発を進めるべきではないと明確に述べています。
提案の骨格は 2 つです。一つは各国のルールを揃える「国際標準の整合化」、もう一つは問題が起きたときに情報を共有する「インシデント報告の仕組み」です。日本、英国、カナダ、オーストラリアなど主要国の AI 安全機関をネットワーク化し、CAISI（ AI スタンダード・イノベーションセンター）を通じて標準策定を進める構想が示されています。
この提案が出た背景には、業界に相次いだ出来事があります。2026年 9月8日、OpenAI と Anthropic の両社でプレトレーニング研究に携わっていた研究者 Jacob Coxon が Anthropic を退職し、AI 安全性への懸念を公開の場で発信しました。その投稿は 7,000 万回以上閲覧され、広く注目を集めました。Anthropic 内でアライメント研究を率いる Evan Hubinger も「 AI が 10年以内に人類全体に致命的な影響を与えるリスクは 10% を超える」と発言し、波紋を広げています。
9月12日には Anthropic CEO の Dario Amodei が AI 開発の意図的な減速を求める論考を発表し、Altman もその中で提案された第三者監査の枠組みを支持すると表明しました。ライバル関係にある両社のトップが安全対策で歩み寄りを見せるのは異例のことです。
Altman はこうした動きを受け、フランスが議長を務める国連安全保障理事会の会合に出席し、国際的な AI 安全標準の必要性を訴える予定です。各国政府や業界リーダーを巻き込んだ議論は、2026年後半の主要な話題となり続けています。