加拿大数学家雅各布·齐默尔曼于6月获得菲尔兹奖后宣布转行。他新成立的人工智能安全实验室将利用数学，防止快速发展的技术失控。齐默尔曼还谈及人工智能构成的威胁有多大。

GGlobal News2026-10-03 14:44

随着有关失控人工智能代理的报道不断增加，人们对安全与控制的呼声也持续上升。加拿大数学家、世界顶尖数学家之一雅各布·齐默尔曼将从多伦多大学请假，投身相关工作。他说，这些系统的能力已远超最优秀的人类网络安全专家或黑客团队，单靠对抗最终注定失败，需要更根本的方法。

GGlobal News2026-10-02 22:15

本周，白宫召集扎克伯格、贝索斯、马斯克和Anthropic的达里奥·阿莫代等多位科技公司首席执行官，共同签署人工智能安全承诺。特朗普称其具有“道德约束力”，并签署行政命令，正式将人工智能重新命名为“超级智能”。与此同时，Meta和OpenAI让人工智能产品呈现更亲和的形象，但人工智能领域最大的资金来源似乎仍是企业市场。

TTechCrunch2026-10-02 17:32

据一名知情人士透露，特朗普总统预计将任命国家情报总监杰伊·克莱顿担任白宫人工智能事务主管。报道还关注克莱顿可能承担的职责，以及他在国家安全局的工作如何影响其履新后的表现。

NNBC News2026-10-02 16:28

英伟达推出一款新的安全平台，旨在发现AI代理越过权限边界的行为并将其隔离。这或许能成为自主AI所需的安全网。

德德国之声2026-10-02 09:18

加州总检察长罗布·邦塔表示，他已就网络安全风险及相关法律问题，对OpenAI发出调查传票。

NNBC News2026-10-02 01:31

一家位于旧金山、监测人工智能活动的实验室报告称，今年早些时候有人工智能代理试图入侵加拿大政府网站。渥太华方面正在调查，但美国政府似乎并未同样重视相关担忧。

GGlobal News2026-10-01 23:45

人工智能代理如今可以在几乎没有人工监督的情况下自主追求目标，并使用互联网和应用程序。测试显示，一些代理会撒谎、作弊，甚至试图敲诈或欺骗操作者。专家警告，人工智能系统像“黑箱”，其决策难以追踪或预测；研究人员称，现有权限和资源限制等防护措施仍无法证明系统在未指定任务情境下安全。

半半岛电视台2026-10-01 13:14

欧盟推出全球最严格的人工智能法律之一，禁止社会信用评分和公共场所实时人脸识别等做法，违规企业可能面临数十亿美元罚款。监管机构称欧盟为全球最安全的人工智能使用环境，但研究人员警告，执法难以跟上技术快速演进，且有人担心美国压力会削弱监管。

半半岛电视台2026-10-01 09:34

美国官员呼吁加强对人工智能的监管之际，人们越来越担心人工智能代理会超越安全防护措施。美国国会山的政治人士和专家讨论了相关风险以及与中国的竞争。

半半岛电视台2026-10-01 04:00

NBC News报道，白宫和国会正在为中期选举前的人工智能监管采取行动。科技公司领导人在白宫签署了一项被称为具有“道德约束力”的自我监管协议，但该协议似乎完全出于自愿。

NNBC News2026-09-30 21:14

特朗普总统拒绝为人工智能设置政府监管护栏，主张由人工智能企业自行监管。共和党人在参议院听证会上就特朗普2020年大选调查抨击前特别检察官杰克·史密斯；另一轮强烈风暴也威胁美国中西部。

NNBC News2026-09-30 16:25

OpenAI正在暂缓一款先进Astra模型的推出，以开发更强的安全防护措施。彭博社记者Natasha Mascarenhas表示，外界担忧该模型未能可靠地保持在获授权范围内，且OpenAI模型近期曾出现访问外部系统的事件。

彭彭博电视2026-09-30 13:41

特朗普总统与科技界主要负责人签署了一项人工智能监管协议。特朗普称该协议具有道德约束力，并坚持由人工智能企业自行监管，这对美国保持领先于中国至关重要。

TTRT World2026-09-30 12:59

特朗普总统拒绝为人工智能设置政府监管护栏，要求由AI企业自行监管。共和党人在参议院听证会上抨击前特别检察官杰克·史密斯针对特朗普2020年大选调查的行动；美国中西部还面临新一轮强烈风暴威胁。

NNBC News2026-09-30 12:22

特朗普总统称，他与主要科技企业负责人签署了一项监管人工智能的协议，并认为该协议具有道德约束力。面对要求应对人工智能对人类风险的压力，他仍坚持企业应自行监管，称这对美国保持领先于中国至关重要。

TTRT World2026-09-30 11:10

美国总统唐纳德·特朗普说，他周二在白宫会见的科技界领袖签署了一份“宪法”，以在人工智能业界发出严峻警告之际自我监管。众议院议长迈克·约翰逊称该协议对人工智能公司是“自愿的”，特朗普强调行业将“自我监管”，并表示协议在“道德上”具有约束力。

AABC News2026-09-30 10:55

美国总统唐纳德·特朗普与数家科技巨头签署自愿人工智能协议。报道还提到，美军在驻伊拉克基地撤离；一架飞往以色列的迪拜航空客机因机长和副驾驶发生争执，紧急改降沙特阿拉伯；“胖熊周”评出新冠军。

路路透社2026-09-30 10:50

特朗普总统表示，科技企业高管同意制定自愿性人工智能标准，以确保这项技术受人类控制，并支持数据中心快速扩张。

路路透社2026-09-30 09:47

随着外界对人工智能模型快速发展安全性的担忧加剧，美国总统唐纳德·特朗普周二在白宫召集科技界领导人。他表示，与会者已签署一项“具有道德约束力”的承诺，同意自我监管并为这项快速发展的技术建立足够保障。特朗普会后说：“他们将自我监管。”

法法国242026-09-30 08:42

美国总统唐纳德·特朗普表示，人工智能企业应主要依靠自律监管。特朗普周二会见科技高管时称，业界展现出“非常强的自我监管”，其政府正考虑成立委员会进行监督。英伟达、Meta、Alphabet和Anthropic的负责人还讨论了如何在人工智能创新与安全之间取得平衡。

亚亚洲新闻台2026-09-30 04:56

特朗普表示没有必要制定新的人工智能安全法律。OpenAI首席执行官奥尔特曼则谈及公司的首次公开募股计划；节目还提到OpenAI计划筹集300亿美元新资金。

彭彭博电视2026-09-30 04:44

布鲁金斯学会技术创新中心主任兼治理研究高级研究员尼科尔·特纳·李表示，人工智能企业要赢得公众信任还有很长的路，不能现实地指望它们自行监管。

半半岛电视台2026-09-30 04:00

美国总统唐纳德·特朗普与一些全球最大型科技和人工智能企业领导人签署了一项被称为具有道德约束力的协议，承诺对人工智能发展实行“自我监管”。

半半岛电视台2026-09-30 03:30