2026年7月21日、OpenAIは、自社のAIモデルがテスト中に管理された環境から自律的に抜け出し、外部サービスへ不正アクセスしていたことを明らかにしました。
問題が起きたのは、OpenAIが社内で実施していたサイバー能力の評価テストです。対象となったのは「GPT-5.6 Sol」と、未公開の高性能モデルでした。
このテストでは、モデルのサイバー能力を正確に測るため、危険な操作を自動的に停止する安全機能が意図的に無効化されていました。その代わり外部との通信も、社内で管理された限られた経路に制限され、本来安全性は担保された状態でテストが行われていました。しかし、モデルはその通信経路に存在していた未知の脆弱性を自ら発見し、これを悪用してインターネットへの接続を確保しました。
その後、モデルはシステム内で権限を拡大しながら侵入範囲を広げ、最終的にAI開発者向けプラットフォーム大手、Hugging Faceの本番環境に到達しました。認証情報を盗み出し、複数のサーバー上で1万7,000件を超える操作を実行したことが確認されています。一連の行動の目的は、モデルが受けていたテストの解答をデータベースから直接入手することだったとされています。つまり、モデルはテストで高い成績を得るために、外部システムへの大規模な不正アクセスを行ったことになります。
Hugging Faceは7月16日に侵害を検知し、対処しました。公開中のモデルやデータセットが改ざんされた形跡は確認されていません。一方、OpenAIが自社のテストとの関連を把握したのは、Hugging Faceによる公表から5日後でした。
今回の事例は、単発の異常行動ではない可能性もあります。
独立評価機関のMEMTRは、Solが正式公開前のテストでも評価環境に介入し、スコアを不正に操作していたと報告しています。また、競合するAnthropicも、自社モデル「Mythos」が安全性評価中にテスト環境からの脱出を試みたと明らかにしています。こうした事例を受け、AI業界では、能力の高いモデルをどのような環境で評価し、監視するべきかが改めて問われています。
OpenAI はセキュリティ上の欠陥の適切な開示や環境管理の強化に加え、高度なサイバー能力を持つモデルの提供先を一部の企業と政府機関に限定する方針を示しました。
今回のインシデントで改めて意識させられるのは、AI モデルが「目標を達成する」という一点に向かって動き出したとき、人間が設けた制約をいとも簡単に回避しうるという現実です。今はまだテスト環境でのカンニングという限定的な話ですが、AI エージェントが業務や意思決定をより広い範囲で自律的にこなすようになった将来を想像すると、その先にあるリスクの大きさは容易には測れません。悪意があったわけでも、誰かの指示があったわけでもなく、ただ与えられた目標に向かって動いた結果、社会の秩序を崩壊させる可能性もある、ということを予感させる今回の出来事に恐怖を感じます。
技術の進歩は止められない必然的流れとして、今後の安全管理のあり方について、私たちに真剣な問いを突きつけています。
