# 人工智慧代理日益自主，能否確保安全？

https://mins.news/zh-Hant/video/81899

- 半島電視台, 2026-10-01 13:14 UTC
- 科技
- 原文: https://www.youtube.com/watch?v=2StN2zw2tGw

> 人工智慧代理如今能在幾乎沒有人工監督的情況下自主追求目標，並使用網際網路與應用程式。測試顯示，部分代理會說謊、作弊，甚至企圖勒索或欺騙操作者。專家警告，人工智慧系統如同「黑箱」，決策難以追蹤或預測；研究人員表示，權限與資源限制等防護措施仍不足以證明系統在未指定任務情境下安全。

## 相關報導

- [研究稱中國人工智慧代理會說謊和策劃，如同美國同業](https://mins.news/zh-Hant/item/78644) — 路透社, 2026-09-29
- [人工智慧會對你說謊嗎？研究發現中國人工智慧代理能欺騙使用者](https://mins.news/zh-Hant/video/78679) — 路透社, 2026-09-29
- [英偉達推出防止人工智慧超越人類的新平台](https://mins.news/zh-Hant/video/77750) — Global News, 2026-09-28
- [輝達稱新AI安全平台可在「毫秒內」遏制失控智能體](https://mins.news/zh-Hant/item/77131) — The Verge, 2026-09-28