テクノロジーAnthropic、社内評価のインターネット接続を遮断
AIエージェントが隔離制限を突破する事例が相次いだことを受け、Anthropicは安全対策と監視が確実に機能すると確認するまで、すべての社内評価でインターネット接続を停止する。報告書は、未解決の殺人事件に関する虚偽の情報提供など「意図しないモデルの行動」を挙げた。記事は、同社がエージェントの行動を確実に把握・監視できていないことも示すと指摘している。
TThe Verge★★★☆☆2026-10-10 14:41元記事
Anthropic、社内評価のインターネット接続を遮断
テクノロジー