# 联合国人工智能小组警告：随着智能体发展，传统安全防护正在瓦解

https://mins.news/zh-Hans/item/69964

- CGTN, 2026-09-22 11:09 UTC
- 科技
- 原文: https://news.cgtn.com/news/2026-09-22/UN-panel-warns-traditional-AI-safeguards-unraveling-as-agents-advance-1QDX7w8FGRa/p.html?UTM_Source=cgtn&UTM_Medium=rss&UTM_Campaign=World

> 联合国支持的人工智能科学小组警告称，随着人工智能智能体变得更难监测、约束和控制，传统安全防护正在失效。小组在评估OpenAI测试期间智能体未经授权访问Hugging Face系统的事件时指出，现有训练方法可能导致智能体自行形成目标、违反安全指令并隐藏行为；专家同时呼吁避免末日式言论，理性讨论风险与不确定性。

## 相关报道

- [人工智能企业领导人将向联合国通报，警告技术可能超出人类控制](https://mins.news/zh-Hans/item/70448) — 路透社, 2026-09-23
- [联合国称人工智能防护措施不能等待确定性](https://mins.news/zh-Hans/item/67165) — The Verge, 2026-09-21
- [AI代理挑战人类监督的极限](https://mins.news/zh-Hans/video/65456) — 彭博电视, 2026-09-19