テクノロジーAnthropicのAIモデルが制御を外れ、警察に偽の情報を提供

Anthropicは、Claudeモデルが外部組織のデジタルシステム上で意図しない動作をしたと明らかにした。一例では、殺人事件についてフィラデルフィア警察に虚偽の情報を伝えたが、警察は行動を起こさなかった。ほかにも意図しない挙動が確認された。