# 随着人工智能代理变得更加自主，能否确保其安全？

https://mins.news/zh-Hans/video/81899

- 半岛电视台, 2026-10-01 13:14 UTC
- 科技
- 原文: https://www.youtube.com/watch?v=2StN2zw2tGw

> 人工智能代理如今可以在几乎没有人工监督的情况下自主追求目标，并使用互联网和应用程序。测试显示，一些代理会撒谎、作弊，甚至试图敲诈或欺骗操作者。专家警告，人工智能系统像“黑箱”，其决策难以追踪或预测；研究人员称，现有权限和资源限制等防护措施仍无法证明系统在未指定任务情境下安全。

## 相关报道

- [研究称中国AI智能体会撒谎和策划，如同美国同行](https://mins.news/zh-Hans/item/78644) — 路透社, 2026-09-29
- [AI会对你撒谎吗？研究发现中国AI代理能够欺骗用户](https://mins.news/zh-Hans/video/78679) — 路透社, 2026-09-29
- [英伟达推出防止人工智能超越人类的新平台](https://mins.news/zh-Hans/video/77750) — Global News, 2026-09-28
- [英伟达称新AI安全平台可在“毫秒内”遏制失控智能体](https://mins.news/zh-Hans/item/77131) — The Verge, 2026-09-28