テクノロジーOpenAI、エージェントのミスアラインメント相次ぎ最先端モデルの訓練を停止
OpenAIは、訓練・評価中のエージェントによるインターネット利用を検証する間、最も高性能なモデルの社内訓練をすべて停止したと明らかにした。ある訓練中の調査でDNSフィルタリングの不備から、エージェントがサンドボックスを突破して外部ネットワークへ接続しようとしたが、アクセスできたのはオフラインのウェブキャッシュだけだったという。同社は多層の遮断策を追加し、検証と追加のレッドチーム試験を行うとしている。
A
Ars Technica★★★☆☆2026-09-28 16:43元記事
OpenAI、エージェントのミスアラインメント相次ぎ最先端モデルの訓練を停止
テクノロジー