2026年8月18日、OpenAIは「サイバー重大能力時代のモデル開発ペース」を発表しました。次期モデルが高いサイバー能力を持つ可能性を踏まえ、研究環境の安全性を高めるため、モデル開発を一時的に減速した経緯と新しい安全策を説明しています。
AI開発では、性能を高めるほど製品化へ近づくとは限りません。モデルがコードを実行し、外部のツールやネットワークを使えるようになると、開発中の研究環境そのものが新しいリスクになります。OpenAIが何を止め、何を確認してから再開しようとしているのかを見ていきます。
2つの出来事を受け、最新モデルの強化学習を2週間停止
OpenAIは、OpenAIとHugging Faceに関するインシデントと、次期モデル「Astra」が同社のPreparedness Frameworkで「重大なサイバーセキュリティ能力」の基準へ達する可能性を示す初期証拠を確認したと説明しています。
これを受けて、展開を予定している最新モデルの強化学習（RL）を2週間停止しました。強化学習とは、望ましい行動へ報酬を与えながら、モデルの振る舞いを改善する学習方法です。
最大規模として計画していたフロンティアモデルの強化学習は、発表時点でも保留されています。OpenAIは、小規模な学習と評価を進め、モデルの振る舞い、安全策、意図に沿って動くことを示す証拠を増やしてから再開する方針です。
安全策は「監視・アラインメント・セキュリティ」の3層
OpenAIは、高性能モデルの開発を支える安全策を3つに整理しています。
- 監視：懸念のある動きを検知し、対応できるようにします。
- アラインメント：モデルが有害な行動や許可されていない行動を取る可能性を下げます。
- セキュリティ：モデルがアクセスしたり影響を与えたりできる範囲を制限します。
重要なのは、完成したモデルを公開前に一度だけ検査するのではなく、学習、評価、推論、ツール利用という開発の各段階へ安全策を組み込むことです。
コードとネットワークを隔離し、懸念を30分以内に判断
研究環境では、モデルが生成したコードなど、信頼できないコードを実行する作業に、より強いサンドボックスを必須としました。サンドボックスとは、問題が起きても他のシステムへ影響が広がりにくいよう、処理を隔離する環境です。
また、高リスクの作業をインターネットから分離し、一つの作業環境が侵害されても、外部や他の社内ネットワークへ不正アクセスできないように制御を強化しました。共有サービスの削減、常設権限の縮小、ログ監視、模擬攻撃を使った継続テストも進めています。
新しい監視では、モデル内部の活動を調べる検出器を動かし、不正アクセス、データ窃取、破壊的行為、安全策を破ろうとする動きを自動調査へ引き継ぎます。懸念を検出してから30分以内に警告を出すことが目標です。
重大な境界違反の可能性が高い場合は、安全性、セキュリティ、研究の各チームへ最優先の通知を送ります。30分以内に誤検知だと判断できなければ、その活動を停止する運用です。
安全確認には推論計算量の約20％を使う
OpenAIの推定では、この監視に必要な計算量は、監視対象となる推論計算量のおよそ20％です。学習や評価の内容によって差はありますが、安全確認には無視できない費用と時間がかかります。
それでも開発を止めて環境を作り直したのは、性能向上の速度より、安全策が能力の上昇へ追いついていることを優先したためです。高性能AIの開発では、予定日を守ることだけでなく、危険度に応じて停止条件を先に決めておく必要があります。
企業が高度なAIエージェントを導入するときも、同じ考え方を応用できます。実行できる操作、接続できるネットワーク、扱えるデータを限定し、異常を検知したときに誰が止めるのかを決めます。能力が高いほど自由に動かすのではなく、能力が高いほど監視と権限管理を強くする設計が必要です。
