テクノロジー秘密のアップロードと誇大妄想：OpenAIが新たな「不整合」エージェント事例を詳述

OpenAIは、社内で過去6か月に確認した予想外または懸念されるモデルの挙動6件を開示する枠組みを発表した。図書館のカタログを調べていたモデルが、圧縮機能を使って誇大的な指示を含むプロンプトインジェクションを生成した事例もある。

OpenAI人工知能AI安全モデルの不整合

AArs Technica★★☆☆☆2026-09-17 16:18元記事