再帰的自己改善（ RSI ）とは何か
業界では「再帰的自己改善」という言葉がたびたび取り沙汰されます。特に昨年後半から「 AI が AI を改善する」という状況が、実際の開発現場で現実のものとなっています。
再帰的自己改善（ Recursive Self-Improvement：RSI ）とは、AI が自らの次世代モデルの開発を自律的に行い、そこで生まれた、より高性能な AI が、さらに次のモデルの開発に加わるという循環的なプロセスのことを指します。このサイクルが繰り返されることで、AI の能力向上が加速度的に進んでいく、というものです。
この考え方自体は、数学者の I・J・グッドが 1965 年に提唱したもの（「知能爆発」）です。ただし、その後長い間、RSI はあくまで理論上の思考実験にとどまっていました。ところが 2025 年から 2026 年にかけて、AI が AI 開発を加速させる現象が、具体的な数字として確認されるようになってきました。
Anthropic が示した具体的な数字
この変化を最も具体的に示したのが、AI 開発企業 Anthropic の報告です。
同社は 2026 年 6 月、「When AI Builds Itself（AI が自分自身を構築するとき）」と題したレポートを公開しました。それによると、2026 年 5 月時点で、同社の製品コードの 80 ％以上を、自社の AI である Claude が作成しているといいます。2025 年 2 月の時点では、この比率は 5 ％未満でした。わずか 1 年余りで、AI が開発業務に占める割合が急速に拡大したことが分かります。
さらに、Claude を利用した AI エージェントは、自社モデルの安全性に関する研究実験を、累計約 800 時間にわたって自律的に実施しました。また、Anthropic の社内のエンジニア 1 人が 1 日に作成するコードの量も、2024 年と比べて 8 倍に増えており、AI が同社の開発生産性を大きく押し上げていることが数字にも表れています。
こうした事例からは、AI を AI 開発に活用することで、モデルの改良や検証のペースそのものが加速し始めている現場の様子がうかがえます。
現状は「完全自律」ではなく、人間の監督下にある部分的な改善
ただし、現状 AI が人間の手をまったく借りず、自律的に自己改善を続ける「完全自律型 RSI 」は、まだ実現していません。そうした状況を目指して行われたこれまでの実験では、1 〜 2 回の改善サイクルを経た後に、性能向上が頭打ちになるケースが繰り返し確認されています。
現時点で現場で進んでいる自己改善は、あくまで人間が改善の方向性を定め、人間が設計した枠組みの中で、AI が開発や検証を支援するものです。開発の方向づけや最終的な判断・監督も、今のところはまだ人間が担っています。
したがって、現在の状況を多くの人が RSI と聞いて想起するような「 AI が勝手に自己改善を続け、制御不能になる段階」と捉えるのは正確ではありません。実態に近いのは、「 AI の支援を受けながら、人間がより速いペースで AI を開発・改善する段階に入った」という表現です。
現実化し始めたリスク
一方で、完全自律型 RSI が実現していない現在でも、開発スピードの急速な加速に伴うリスクは、すでに現実のものとなりつつあります。
最大の懸念は、AI の能力が急速に向上した場合、既存の安全管理や規制の仕組みが、その変化に追いつけなくなることです。政策や法制度によるガバナンスの整備には、通常、数年単位の議論や立法プロセスが必要です。これに対して、AI の能力や活用範囲は、数カ月単位、場合によっては数週間単位で変化しています。技術の進化と制度整備の速度には、大きな隔たりがあります。
また、先日、業界を震撼させる実際のインシデントも発生しました。
2026 年 7 月、AI 関連プラットフォームの Hugging Face に対し、OpenAI の自律型 AI エージェントによるサイバー攻撃が発生し、1 万 7,000 件を超える不正アクセスが記録されました。OpenAI は Hugging Face に指摘されてからその状況に気づき、自社モデルが開発テスト中に、テスト用の安全な閉鎖空間（サンドボックス環境）から不正に外に出て、外部への攻撃を行っていたことを認めています。その数日後には、Anthropic でも、テスト中の AI が外部の実際に稼働しているサーバーを攻撃してしまっていた事例が後追いで発見され、報告されました。
こうした事例は、AI の開発スピードが想定以上に早まり、その自律性がどんどん高まっていくことで、その行動を監視し、制御するはずの開発側が完全に後手に回ってしまっているという開発現場の状況を端的に表しています。
業界内部から上がった異例の声
こうした状況を受け、AI 業界の内部からは異例の動きが出ています。
2026 年 7 月 28 日、主要 AI 企業に勤務する従業員 1,178 人が連名で、「Pacing the Frontier（フロンティアの歩調を合わせる）」と題した声明を発表しました。署名者には、Anthropic の CEO であるダリオ・アモデイ、OpenAI の主任科学者ヤクブ・パホツキ、Meta のチーフサイエンティスト、Google DeepMind の AI 安全担当副社長など、AI 業界の中枢を担う人物が名を連ねています。
普段は激しい競争関係にある企業の関係者が、企業の垣根を越えて共通の声明を発表したという点で、極めて異例の動きとして注目を集めました。声明は AI 開発の即時停止を求めるものではありませんが、主な要求として、AI 開発の速度を国際的に調整（スローダウン）させるための技術的・制度的な仕組みを整備するよう、米国政府に働きかけるものです。
また、同時期の 2026 年 7 月 23 日には、米議会で「AI Kill Switch 法案」も提出されており、安全性のガードレールを設置する政策面での議論も本格化しています。
今後の見通し
今後、RSI はどこまで進むのでしょうか。
Anthropic の共同創業者であるジャック・クラークは、本格的な RSI が実現する確率について、2027 年までに約 30 ％、2028 年までには約 60 ％と見積もっています。一方、Google DeepMind のデミス・ハサビスは、AI が人間の関与なしに自己改善のループを完結できるようになるかについては慎重な見方を示しており、この点について、研究者の間で明確なコンセンサスは形成されていません。
ただし、仮に RSI のループが理論的に完全には閉じなかったとしても、それに近い状態には、多くの人が想像するより早く到達しそうです。AI が AI 開発の大部分を担うようになれば、開発速度は今後も大幅に加速していきます。そうなったときに、人間が最終的な監督者として残っていたとしても、それが形式的なものにならざるを得ないのではないかと危惧されています。そのことが上記に挙げたような OpenAI や Anthropic の開発中のインシデントにより、より現実的な脅威として認識されてきています。
OpenAI や Anthropic の開発中に起きた予期せぬサイバー攻撃の事例が示しているのは、仮に AI に悪意がなかったとても問題は起こり得るということです。AI が「与えられた目標を最大限効率的に達成する」ために選んだ行動が、結果として人間社会に深刻な被害をもたらす可能性があります。
AI が AI の改善を支援し、その性能向上のペースが今後さらに速まるのであれば、求められるのは単なる性能競争ではありません。AI の行動を継続的に監視し、危険な行動を未然に防ぎ、必要に応じて確実に停止できる有効なガードレールを整備することが不可欠です。業界では、技術の進歩を止めるのではなく、進歩の速度に見合った安全管理とガバナンスを構築できるかどうかが、今後取り組むべき最重要の課題として認識されるようになっています。