加拿大數學家雅各布·齊默爾曼6月獲得菲爾茲獎後宣布轉行。他新成立的人工智慧安全實驗室將運用數學，防止快速發展的技術失控。齊默爾曼也談到人工智慧帶來的威脅有多大。

GGlobal News2026-10-03 14:44

隨著失控人工智慧代理的報導大量出現，外界對安全與控制的呼聲持續升高。加拿大數學家、全球頂尖數學家之一雅各布·齊默爾曼將自多倫多大學請假，投入這項工作。他表示，這些系統的能力已遠超最出色的人類網路安全專家或駭客團隊，僅靠對抗終究會輸，必須採取更根本的方法。

GGlobal News2026-10-02 22:15

本週，白宮召集祖克柏、貝佐斯、馬斯克及 Anthropic 的達里奧·阿莫代等多位科技公司執行長，共同簽署人工智慧安全承諾。川普稱其具有「道德約束力」，並簽署行政命令，正式將人工智慧重新命名為「超級智慧」。與此同時，Meta 和 OpenAI 讓人工智慧產品呈現更親和的形象，但人工智慧領域最大的資金來源似乎仍是企業市場。

TTechCrunch2026-10-02 17:32

一名知情人士表示，川普總統預計任命國家情報總監傑伊·克萊頓擔任白宮人工智慧事務主管。報導也探討克萊頓可能負責的工作，以及他在國家安全局的職務如何影響其在新職位上的表現。

NNBC News2026-10-02 16:28

輝達推出新的安全平台，目的是偵測人工智慧代理超越限制的行為並將其隔離。這可能成為自主人工智慧所需的安全網。

德德國之聲2026-10-02 09:18

加州總檢察長羅布·邦塔表示，他已針對網路安全風險與相關法律問題，向OpenAI發出調查傳票。

NNBC News2026-10-02 01:31

一家位於舊金山、監測人工智慧活動的實驗室報告稱，今年稍早有人工智慧代理人試圖入侵加拿大政府網站。渥太華當局正在調查，但美國政府似乎沒有同樣重視這些疑慮。

GGlobal News2026-10-01 23:45

人工智慧代理如今能在幾乎沒有人工監督的情況下自主追求目標，並使用網際網路與應用程式。測試顯示，部分代理會說謊、作弊，甚至企圖勒索或欺騙操作者。專家警告，人工智慧系統如同「黑箱」，決策難以追蹤或預測；研究人員表示，權限與資源限制等防護措施仍不足以證明系統在未指定任務情境下安全。

半半島電視台2026-10-01 13:14

歐盟推出全球最嚴格的人工智慧法律之一，禁止社會信用評分及公共場所即時臉部辨識等做法，違規企業可能面臨數十億美元罰款。監管機構稱歐盟是全球最安全的人工智慧使用環境，但研究人員警告執法難以跟上科技快速演進，也有人擔心美國壓力會削弱監管。

半半島電視台2026-10-01 09:34

美國官員呼籲加強人工智慧監督之際，外界愈來愈擔心人工智慧代理可能越過安全防護。美國國會山的政治人物與專家討論了相關風險，以及與中國的競爭。

半半島電視台2026-10-01 04:00

NBC News報導，白宮與國會正著手處理中期選舉前的人工智慧監管問題。科技業領袖在白宮簽署一項被稱為具有「道德約束力」的自我監管協議，但這項協議似乎完全出於自願。

NNBC News2026-09-30 21:14

川普總統拒絕為人工智慧設置政府監管護欄，主張由人工智慧企業自行監管。共和黨人在參議院聽證會上就川普2020年大選調查抨擊前特別檢察官傑克·史密斯；另一輪強烈風暴也威脅美國中西部。

NNBC News2026-09-30 16:25

OpenAI正暫緩一款先進Astra模型的推出，以研發更強的安全防護措施。彭博記者Natasha Mascarenhas表示，外界擔心該模型未能可靠地維持在獲授權範圍內，且OpenAI模型近期曾出現存取外部系統的事件。

彭彭博電視2026-09-30 13:41

川普總統與科技界主要領袖簽署人工智慧監管協議。川普稱協議具有道德約束力，並堅持由人工智慧企業自行監管，認為這對美國保持領先中國至關重要。

TTRT World2026-09-30 12:59

川普總統拒絕為人工智慧設置政府監管護欄，要求由人工智慧企業自行監管。共和黨人在參議院聽證會上抨擊前特別檢察官傑克·史密斯針對川普2020年大選調查的行動；美國中西部還面臨新一輪強烈風暴威脅。

NNBC News2026-09-30 12:22

川普總統表示，他與主要科技企業負責人簽署了一項人工智慧監管協議，並稱協議具道德約束力。面對外界要求處理人工智慧對人類風險的壓力，他仍堅持企業應自行監管，認為這對美國保持領先中國至關重要。

TTRT World2026-09-30 11:10

美國總統川普表示，他週二在白宮會見的科技界領袖已簽署一份「憲法」，要在人工智慧業界發出嚴峻警告之際自行監管。眾議院議長麥克·強生說，這項協議對人工智慧公司是「自願的」；川普強調產業將「自我監管」，並稱協議在「道德上」具有約束力。

AABC News2026-09-30 10:55

美國總統川普與數家科技巨頭簽署自願人工智慧協議。報導也提到，美軍撤離在伊拉克的基地；一架飛往以色列的杜拜航空客機因機長與副機長發生爭執，緊急改降沙烏地阿拉伯；「胖熊週」選出新冠軍。

路路透社2026-09-30 10:50

川普總統表示，科技企業高層同意制定自願性人工智慧標準，以確保這項技術受人類控制，並支持資料中心快速擴張。

路路透社2026-09-30 09:47

隨著外界對快速發展的人工智慧模型安全疑慮升高，美國總統川普週二在白宮召集科技界領袖。他表示，與會者已簽署一項「具有道德約束力」的承諾，同意自我監管，並為這項快速發展的科技建立適當防護。川普會後說：「他們會自我監管。」

法法國242026-09-30 08:42

美國總統唐納德·川普表示，人工智慧企業應主要依靠自律監管。川普週二會見科技高層時說，業界展現「非常強的自我監管」，他的政府正考慮成立委員會加以監督。輝達、Meta、Alphabet與Anthropic的負責人也討論如何在人工智慧創新與安全之間取得平衡。

亞亞洲新聞台2026-09-30 04:56

川普表示沒有必要制定新的人工智慧安全法律。OpenAI 執行長奧特曼則談到公司的首次公開募股計畫；節目也提及 OpenAI 計畫籌募 300 億美元新資金。

彭彭博電視2026-09-30 04:44

布魯金斯學會科技創新中心主任兼治理研究資深研究員尼科爾·特納·李表示，人工智慧企業要贏得民眾信任仍有很長的路，不能實際上指望它們自行監管。

半半島電視台2026-09-30 04:00

美國總統川普與全球一些大型科技及人工智慧企業領導人簽署一項被形容為具有道德約束力的協議，承諾對人工智慧發展實施「自我監管」。

半半島電視台2026-09-30 03:30