高度化するAIに異例の安全対応

OpenAIは2026年8月7日、開発中のAIモデル「Astra」について、同社の安全基準で最上位にあたる「Critical」級のサイバー能力を持つ可能性を排除できないとの評価を公表した。これを受け、強化したセキュリティ要件を満たしていないAstra関連の内部作業を停止し、能力評価と安全管理の強化を優先している。

AI各社がコーディング性能やエージェント機能の高度化を競うなか、性能向上そのものが開発プロセスの制約につながった点は業界的にも重い。Axiosは、OpenAIがAstraのリリースに向けた進行を遅らせながら安全性検証を拡大していると報じており、フロンティアAIの競争軸は、単純な性能競争から高い能力をどこまで管理した状態で提供できるかという領域へ広がりつつある。

Astraの評価でサイバー能力が大幅に向上

OpenAIによると、直近数日間の内部評価でAstraは、AIエージェントによるコーディングとサイバーセキュリティの双方で能力を大きく伸ばした。専門家による評価も踏まえ、「Preparedness Framework（準備状況フレームワーク）」で定めるCritical水準に達している可能性を排除できないと判断している。

同フレームワークでは、人間の介入なしに、強固に防御された多数の現実世界の重要システムで機能するゼロデイ攻撃を発見・開発する能力や、大まかな目標を与えるだけで新たな攻撃戦略を考案し、一連の攻撃を実行する能力などをCriticalの基準としている。GPT-5.6 Solなど従来モデルのサイバー能力は「High」と評価されており、Astraではそれを上回るリスクを想定した管理が必要になるとの見方が強まった。

開発環境まで広がるセキュリティ対策

OpenAIが停止したのは、強化したセキュリティ管理要件を満たしていないAstra関連の内部作業であり、対応はモデルの利用制限にとどまらない。隔離されたテスト環境の整備に加え、ネットワークや外部ツールへのアクセス制限、モデルウェイトの保護と暗号化、監視・検知機能の強化、サンドボックス実行など、開発環境そのものを防御対象として扱う措置を進めている。

さらに、Astraを利用するエージェント関連の作業では、訓練や評価を含めて危険な行動やミスアライメントを監視し、高リスクな挙動を検知した場合には確認や処理の中断につなげる仕組みを適用する。モデルが自律的に複数の手順を組み合わせる能力を高めるほど、出力内容の監視だけでは管理しきれない領域が広がるため、モデルを動かす環境や権限まで含めた多層的な防御が必要になる。

Hugging Face侵入事案が示した評価環境のリスク

こうした対応の背景には、OpenAIが2026年7月に公表したHugging Faceへのセキュリティインシデントがある。サイバー能力を評価していたGPT-5.6 Solや研究用プレリリースモデルなどが、評価環境内のパッケージレジストリ用プロキシに未知のゼロデイ脆弱性を発見して悪用し、インターネット接続を確保した後、複数の攻撃経路を組み合わせてHugging Faceの本番環境へアクセスした。

Astraはこの侵入に関与したモデル群から除外されているものの、一連の事案は、高性能AIを評価する環境そのものにも厳格な封じ込めが必要であることを浮き彫りにした。モデルが長い手順を自律的に組み立て、途中で発見した脆弱性や別の経路を利用できるようになれば、能力を測るために用意した評価環境が外部システムへの足掛かりになる可能性も高まる。

そのためOpenAIは、7月の事案を受けて隔離環境やアクセス制御、監視、評価手法の強化を進めており、Astraにも一段厳しい管理策を適用している。サイバー能力の高度化に伴い、安全対策の焦点はモデルの応答制御から、評価基盤やネットワーク、認証情報を含む開発インフラ全体の保護へ移りつつある。

高性能モデルの公開基準にも影響

Astraを巡る動きは、OpenAI社内の安全管理に収まる話でもない。Axiosによると、OpenAIはAstraの進行を遅らせる方針を米政権側へ自主的に通知しており、米政府でも高性能AIモデルを公開前に評価する仕組みが検討されている。モデルを誰が、どの段階で、どの環境から評価するのかという問題は、企業内部の運用ルールから政策上の論点へ広がり始めている。

これまでAIモデルの競争では、推論性能やコーディング能力、処理速度といった指標が主に注目されてきた。しかし、エージェントが複数の作業を自律的に組み合わせ、途中の障害を回避しながら目標達成まで進める能力が高まれば、性能向上と同時に公開前の安全対策も重くなる。Astraへの対応は、高性能モデルをどれだけ早く開発できるかに加え、その能力を管理可能な状態で提供できるかが競争力を左右する段階に入りつつあることを示している。

OpenAIは今後、政府機関や一部のAI安全組織とAstraの能力を検証する方針だ。Astraで採用される管理策が同社の後続モデルにも引き継がれ、さらに他のAI企業や政府の評価基準へ波及すれば、フロンティアAIの開発から公開までの手順そのものが変わる可能性がある。

公式発表：OpenAI