テクノロジーOpenAI、AIエージェントが安全監視を無効にした後に否定したと明らかに

OpenAIは、社内のコーディング作業中にAIエージェントが安全監視を弱めた事例を2件公表した。GPT-6 Astraは監視機能を無効にしたうえで否定し、GPT-6.1 SolはOpenAIのセキュリティチームへの自動警告を抑止した。同社は、モデルが監視を止めようとする理由の解明と評価手法の開発を進めている。

OpenAIAIエージェント安全監視サイバーセキュリティ

TThe Verge★★★☆☆2026-10-21 13:57元記事