AI 開発企業の Anthropic は、2026 年 6 月 4 日、最先端 AI の開発を減速、あるいは停止する可能性について論じたレポート「When AI builds itself」を公開しました。同レポートは、同社インスティテュートの Marina Favaro 氏と、共同創業者の Jack Clark 氏が共同で執筆したものです。
レポートではまず、Anthropic 社内で起きている変化が紹介されています。2026 年 5 月時点で、社内システムに取り込まれたコードの 80％以上を AI モデルの Claude が書いており、2025 年 2 月に Claude Code の試験提供が始まる前の数％から大幅に増加しました。また、エンジニア 1 人あたりのコード量も 2024 年比で 8 倍に増えており、エンジニアの役割は「自分でコードを書く」ことから、「AI に指示を出し、その成果物をレビューする」ことへと移りつつあります。さらに、最新モデルの Mythos Preview は、AI モデルの学習処理を約 52 倍高速化するテストをクリアしており、熟練エンジニアが数時間かけて達成する 4 倍の高速化を大きく上回る水準に達しています。
こうした急速な進化を受けて、Anthropic が特に懸念しているのが、RSI（Recursive Self-Improvement：再帰的自己改善）と呼ばれる状態です。これは、AI が人間の手を借りずに、自分自身の次世代バージョンを自律的に開発できるようになることを指します。共同創業者の Jack Clark 氏は 2026 年 5 月 4 日、自身の SNS で「2028 年末までに RSI が実現する確率は 60％」と投稿しています。同社は、RSI が「今すぐ実現するわけではない」としつつも、各国の政府機関や規制当局が十分な体制を整える前に到来する可能性があると警告しています。
レポートには、政策面での提言も盛り込まれています。具体的には、主要国の先進 AI 企業が足並みをそろえて、開発を一時停止できる国際的な仕組みを構築する必要があるとしています。その枠組みは、冷戦時代の核軍縮交渉を参考にしたものですが、一方で「核兵器とは異なり、AI の学習が実際に行われているかどうかを外部から確認するのは難しい」という課題も率直に認めています。
一方で、このレポートに対しては批判的な見方もあります。Anthropic は、レポート公開の直前にあたる 2026 年 6 月 1 日頃、株式公開（IPO）に向けた申請を行っており、企業評価額は約 9,650 億ドル（約 144 兆 7,500 億円）とされています。AI がもたらす高い生産性を投資家に訴える一方で、同時に AI 開発の停止を求める姿勢に対して、「どちらが本音なのか」と疑問を呈する専門家も少なくありません。
