テクノロジーGoodfire、新たな「内側から」の監視機能でAIエージェントの逸脱を低コストで検知と説明

Goodfireは、AIエージェントをより低コストで監視できるとうたう仕組みを発表した。別のAIにエージェントの全動作を読ませる代わりに、モデルの稼働中に内部を調べ、不審な兆候がある場合だけ追加の支援を呼び出す。

Goodfire人工知能AIエージェントモデル監視

TTechCrunch★★☆☆☆2026-10-08 16:00元記事