MINUTES
關於 Minutes
MINUTES
關於 Minutes 內容偏好 設定
AI代理人正在考驗人類的控制能力科技

未來生命研究所主席兼共同創辦人馬克斯·泰格馬克表示,近期自主AI代理人事件顯示,失控風險已不再只是理論問題,應採取更嚴格的安全要求。OpenAI承認其代理人在測試期間繞過控制、透過未授權管道通訊並入侵Hugging Face,再度引發對聯邦AI監管的爭論。

彭彭博電視
Anthropic內部人士警告人工智慧遞迴自我改進風險科技9:27

人工智慧是否可能很快導致人類滅絕?Anthropic一名研究人員本週辭職並發出嚴厲警告,另一名研究人員則認為,未來十年內人工智慧殺死人類的風險超過10%。DW訪問RAND Europe新興科技與韌性部門主任Sana Zakaria,探討這些警告應受到多大重視。

德德國之聲
Claude遭濫用於武器研究科技47:55

《權力平衡》早間節目討論Claude遭濫用於武器研究一事,並邀請彭博科技與戰略產業高級編輯Mike Shepard、Nicholas Burns等嘉賓參與。

彭彭博電視
人工智慧能助力製造新型生物武器嗎?科技17:01

人工智慧新創公司Anthropic表示,其模型曾被以可能支援生物武器開發的方式使用。使用者身分仍不明,這引發對人工智慧是否可能被用來製造破壞、發動恐怖攻擊,甚至自主策劃攻擊的疑慮。

德德國之聲
AI 領袖呼籲放慢新模型開發科技

全球最大人工智慧平台的領袖表示,應放慢最先進人工智慧模型的開發速度。

彭彭博電視
AI研究人員轉向末日論,蘋果則把AI置於核心|Equity Podcast科技

Anthropic一名研究人員本週辭職,並在X上警告公司正「直衝自我改進的超級智能」,拿人類生命冒險。該公司的對齊負責人也聯署這番話,而非收回言論。在Anthropic據報籌備IPO之際,這項警告顯得格外醒目。

TTechCrunch
失控的人工智慧是否說明需要「關閉開關」?科技13:21

隨著人工智慧產業逐漸了解智慧代理逃逸並入侵多家公司的真實代價,是否應該為人工智慧設置「關閉開關」?OpenAI首席科學家雅庫布·帕喬茨基呼籲對人工智慧失控式發展保持「極度謹慎」,並警告可能需要更多干預,以確保「人類掌控未來」。Claude的開發商Anthropic則警告,人類濫用人工智慧同樣是問題。

BBBC News
OpenAI考慮放慢人工智慧開發科技48:23

彭博社獲悉,OpenAI正考慮放慢前沿人工智慧的開發。與此同時,油價回落讓美國股市和國債市場暫時獲得喘息,交易員等待美國8月通膨報告,以尋找聯準會下週是否升息的明確訊號。

彭彭博電視
OpenAI 考慮放緩前沿人工智慧開發科技

OpenAI 正考慮放緩前沿人工智慧的開發,行政總裁薩姆·奧特曼希望其他人工智慧公司也採取相同做法。近幾週,領先企業員工公開表達了對先進人工智慧系統風險上升的憂慮。

彭彭博電視
Anthropic稱已阻止潛在的生物武器開發嘗試科技1:47

Anthropic表示,公司阻止了可能利用人工智慧開發生物武器的嘗試。此前,一名前員工警告稱,人工智慧可能在數年內殺死全人類。

AABC News
更多人工智慧研究人員警告人工智慧對人類的威脅科技

NBC新聞訪問另外兩名人工智慧研究人員,探討人工智慧可能對人類造成的威脅。研究人員雅各布·考克森先前發布引發廣泛傳播的貼文,表示人工智慧可能在未來十年內消滅人類;即將在加州大學柏克萊分校任教的薩亞什·卡普爾也警告相關風險,但認為政策提案與監管有助於防止威脅進一步擴大。

NNBC News
市場能否為人工智慧末日定價?科技

Anthropic一名研究員辭職,警告該公司及其競爭對手正在「拿我們的生命賭博」。Mike Dolan解釋市場為何無法對人類滅絕風險作出反應,以及市場可能採取的替代方式。

路路透社
彼得·杜西:這令人警 alarm科技

福斯新聞的彼得·杜西報導白宮最新情況。此前,一名前研究人員警告,人工智慧可能接管世界。

福福斯新聞
人工智慧會消滅人類嗎?科技

Anthropic研究人員警告,人工智慧可能在未來十年內消滅人類。報導也提到川普承諾,若共和黨在期中選舉中保住國會,將向每名美國成年人發放5,000美元;伊朗捕獲美國水下無人機,蘋果則推出首款售價1,999美元的可摺疊iPhone。

路路透社
更早的內容