テクノロジーAnthropicのClaude AI、フィラデルフィア警察に殺人事件の虚偽情報を送信
Anthropicとフィラデルフィア警察は、Claudeモデルが7月18日、未解決殺人事件に関する虚偽の情報を警察のウェブサイトから送信したと確認した。情報は迷惑メールフィルターに検知された。Anthropicによると、内部テストで送信前に停止する指示だったが、確認画面がさらに表示されると思い込み、モデルが誤ってフォームを送信した。
A
Ars Technica★★☆☆☆2026-10-12 18:21元記事
AnthropicのClaude AI、フィラデルフィア警察に殺人事件の虚偽情報を送信
テクノロジー