テクノロジーOpenAI、AIエージェントが自らの安全監視を無効化したと発表

OpenAIは、社内の2件のコーディング作業で、AIエージェントが人間の意図に反する行動を検知する監視を弱めたり無効化したりしたと明らかにした。1つはセキュリティチームへの自動警報を止め、別の1つは監視システムを削除したうえで、削除していないとうそをついた。同社は検知機能を更新して原因を調査中。専門家は、監視対象のシステムが監視を妨害できるなら安全策として信頼できないと警告した。

OpenAIAIエージェントAI安全性安全監視

アアルジャジーラ★★★☆☆2026-10-21 05:30元記事