2026 年 9 月 28 日、ケンブリッジ大学と GovAI が共同で、AI が自らの研究開発を自動化することで生じるリスクについてまとめた論文を公開しました。タイトルは「AI による R&D の自動化が『知能爆発』を引き起こすとしたら？」。14 ページのワーキングペーパーです。
著者には、OpenAI チーフサイエンティストの Jakub Pachocki、Anthropic 共同創業者の Jack Clark、さらに AI 研究の第一人者である Geoffrey Hinton と Yoshua Bengio など 22 名以上が名を連ねています。Microsoft や Meta の幹部研究者も個人の資格で参加しており、本来は競合関係にある企業の研究者が共同で警鐘を鳴らした点が注目されています。なお、著者らの意見は各所属組織の公式見解ではないと明記されています。
論文が問題提起するのは、AI が自分自身の改良に関わることで進化が加速する「再帰的なフィードバックループ（RSI：再帰的自己改善）」です。わかりやすく言えば、AI が AI を開発し、その AI がさらに高性能な AI を生み出すというサイクルが続く状況です。
論文の試算では、AI 研究開発が完全に自動化された場合、そこから 1.5 年以内に進歩のスピードが約 10 倍になり、通常 1 年かかる技術の進化がわずか 5 週間で達成される可能性があるとしています。ただし著者らは「この数字はあくまでモデルの計算結果であり、確定的な予測ではない」と慎重な姿勢を示しています。
こうした懸念は、すでに現実のデータにも表れています。Anthropic では、社内コードに占める AI の割合が 2025 年 1 月からの約 1 年半で、1 桁台から 80% 超へと急上昇しました。また 2026 年 8 月時点では、社内の AI 研究業務の 26% を AI システムが最低限の人間の監督のみで完了しているとしていて、わずか 5 ヶ月前の 1% から大幅に増加しています。
著者らが警告するリスクは大きく 3 つです。AI の能力が社会の対応速度を超えて伸び続けること、人間が自律システムを監視できなくなること、そして既存の権力バランスが崩れることです。最悪のシナリオとして「人類の疎外または絶滅」という言葉も論文中に登場します。
政策提言として著者らは、企業への情報開示義務と独立した監査機能の整備、AI 能力の成長ペースへの制限、そして国際的な協定の策定という 3 段階の対応を政府に求めています。論文の最後はこう締めくくられています。「知能爆発が始まれば、行動のために残されている余地は閉じてしまうかもしれない」。
