Anthropic は 2026 年 8 月 28 日、AI 自身が安全性の改善研究を自律的に進められることを示した論文を公式ブログで公開しました。開発を主導したのは、同社フェローの Chen Yueh-Han 氏です。
AI の「アライメント」とは、モデルが人間の意図どおりに動くかどうかを指します。平気で嘘をつく、ユーザーに迎合する、制限を不正にすり抜けるといった問題行動をどう防ぐかは、AI 業界全体が取り組む難題です。今回発表された「AI 自動アライメント研究者（AAR）」は、 Claude が過去の研究論文を読み込み、改善策を自ら考えて試し、結果を検証するというサイクルを繰り返すシステムです。うまくいった手法だけを引き継いでいくため、人間の手をほとんどかけずに研究を前進させられます。
実験では、安全性に関する 10 種類の評価項目すべてで改善が確認されました。項目によって改善幅は 26 〜 96 % と差がありますが、いずれも AI の通常の性能を落とさずに達成されています。なかでも「嘘をつく」という問題への対処が顕著でした。論文では「セーフティギャップ」という指標を使っています。これは、理想的な安全性を満点としたとき、現状のモデルがどれだけ不足しているかを示すもので、 AAR はこの不足分の 85 % を解消しました。一方、同じ課題に取り組んだ人間の研究者が解消できたのは 20 % にとどまっています。
研究のスピードでも AI の優位が示されました。 AAR が導き出した最良の手法は、熟練した人間の研究者が考案したアプローチの成果を大幅に上回ります。人間が数日かけて練り上げた戦略より高い効果を、 AI が半日足らずで出せるようになる、とのことです。
コスト面の差も大きく、論文では稼働 1 時間あたりの単価を比較しています。 AAR は約 4 ドル（約 600 円）であるのに対し、人間の研究者は約 150 ドル（約 22,500 円）と試算されており、同じ 1 時間あたりのコストで約 37 倍の開きがあります。加えて上記の通り同じ改良にかかる稼働時間も ARR の方が短くなることを考え合わせると、コストダウン効果は絶大です。
Anthropicは論文の中で「アライメント研究の自動化はすでに実用段階にある可能性があり、数年先の話ではない」と述べています。 AI が自分自身の改善に関わるようになった今、安全性の研究を AI 開発のスピードに追いつかせる手段として、このアプローチへの注目が高まっています。
