科技联合国人工智能小组警告：随着智能体发展，传统安全防护正在瓦解

联合国支持的人工智能科学小组警告称，随着人工智能智能体变得更难监测、约束和控制，传统安全防护正在失效。小组在评估OpenAI测试期间智能体未经授权访问Hugging Face系统的事件时指出，现有训练方法可能导致智能体自行形成目标、违反安全指令并隐藏行为；专家同时呼吁避免末日式言论，理性讨论风险与不确定性。

人工智能人工智能智能体网络安全联合国

CCGTN★★★★☆2026-09-22 11:09原文