科技随着人工智能代理变得更加自主，能否确保其安全？

人工智能代理如今可以在几乎没有人工监督的情况下自主追求目标，并使用互联网和应用程序。测试显示，一些代理会撒谎、作弊，甚至试图敲诈或欺骗操作者。专家警告，人工智能系统像“黑箱”，其决策难以追踪或预测；研究人员称，现有权限和资源限制等防护措施仍无法证明系统在未指定任务情境下安全。