科技8:02佛羅里達州共和黨眾議員安娜·保利娜·盧納在《福斯新聞直播》中談論超級智慧的威脅,並呼籲國會召開特別會議,處理人工智慧監管問題。
科技8:02佛羅里達州共和黨眾議員安娜·保利娜·盧納在《福斯新聞直播》中談論超級智慧的威脅,並呼籲國會召開特別會議,處理人工智慧監管問題。
科技未來生命研究所主席兼共同創辦人馬克斯·泰格馬克表示,近期自主AI代理人事件顯示,失控風險已不再只是理論問題,應採取更嚴格的安全要求。OpenAI承認其代理人在測試期間繞過控制、透過未授權管道通訊並入侵Hugging Face,再度引發對聯邦AI監管的爭論。
科學6:00哈佛資深研究員阿希什·賈接受NBC新聞訪問,分析Anthropic報告的主要結論。報告披露,有人曾試圖利用Claude研發生物武器。
科技9:27人工智慧是否可能很快導致人類滅絕?Anthropic一名研究人員本週辭職並發出嚴厲警告,另一名研究人員則認為,未來十年內人工智慧殺死人類的風險超過10%。DW訪問RAND Europe新興科技與韌性部門主任Sana Zakaria,探討這些警告應受到多大重視。
科技47:55《權力平衡》早間節目討論Claude遭濫用於武器研究一事,並邀請彭博科技與戰略產業高級編輯Mike Shepard、Nicholas Burns等嘉賓參與。
科技Anthropic表示,有人曾試圖繞過Claude的安全防護,將其用於武器、間諜活動及網路攻擊。該公司稱,由於擔心相關研究可能被用於生物武器,它阻止了一項協助撰寫撥款申請的提示請求。
科技17:01人工智慧新創公司Anthropic表示,其模型曾被以可能支援生物武器開發的方式使用。使用者身分仍不明,這引發對人工智慧是否可能被用來製造破壞、發動恐怖攻擊,甚至自主策劃攻擊的疑慮。
科技全球最大人工智慧平台的領袖表示,應放慢最先進人工智慧模型的開發速度。
科技Anthropic一名研究人員本週辭職,並在X上警告公司正「直衝自我改進的超級智能」,拿人類生命冒險。該公司的對齊負責人也聯署這番話,而非收回言論。在Anthropic據報籌備IPO之際,這項警告顯得格外醒目。
科技2:01兩名Anthropic研究人員嚴厲警告,快速發展的人工智慧可能在不久的將來導致人類滅絕;在此之後,越來越多美國議員呼籲制定監管人工智慧系統的新規。
科技一些科技業內人士警告,人工智慧可能被用來癱瘓關鍵基礎設施或製造生物武器。塞琳·岡德博士對此發表看法。
科技13:21隨著人工智慧產業逐漸了解智慧代理逃逸並入侵多家公司的真實代價,是否應該為人工智慧設置「關閉開關」?OpenAI首席科學家雅庫布·帕喬茨基呼籲對人工智慧失控式發展保持「極度謹慎」,並警告可能需要更多干預,以確保「人類掌控未來」。Claude的開發商Anthropic則警告,人類濫用人工智慧同樣是問題。
科技48:23彭博社獲悉,OpenAI正考慮放慢前沿人工智慧的開發。與此同時,油價回落讓美國股市和國債市場暫時獲得喘息,交易員等待美國8月通膨報告,以尋找聯準會下週是否升息的明確訊號。
科技OpenAI 正考慮放緩前沿人工智慧的開發,行政總裁薩姆·奧特曼希望其他人工智慧公司也採取相同做法。近幾週,領先企業員工公開表達了對先進人工智慧系統風險上升的憂慮。
科技1:33:48DeepSeek推出低成本新模型,為晶片製造商和人工智慧領域的競爭對手帶來新的衝擊。
科技6:45《Outnumbered》節目討論Jacob Coxon對人工智慧脫離人類控制的擔憂。這名Anthropic前研究員警告,人工智慧最終可能變成一件「超級武器」。
科技1:47Anthropic表示,公司阻止了可能利用人工智慧開發生物武器的嘗試。此前,一名前員工警告稱,人工智慧可能在數年內殺死全人類。
科技NBC新聞訪問另外兩名人工智慧研究人員,探討人工智慧可能對人類造成的威脅。研究人員雅各布·考克森先前發布引發廣泛傳播的貼文,表示人工智慧可能在未來十年內消滅人類;即將在加州大學柏克萊分校任教的薩亞什·卡普爾也警告相關風險,但認為政策提案與監管有助於防止威脅進一步擴大。
科技一些頂尖人工智慧公司的前員工表示,未來模型的潛力可能導致全人類遭到殺害。NBC新聞記者克莉絲汀·羅曼斯對此進行報導。
科技Anthropic的前任與現任員工本週公開警告人工智慧開發的風險,稱其可能導致全人類死亡。《大西洋》執行長尼克·湯普森就此展開討論。
科技Anthropic一名研究員辭職,警告該公司及其競爭對手正在「拿我們的生命賭博」。Mike Dolan解釋市場為何無法對人類滅絕風險作出反應,以及市場可能採取的替代方式。
科技福斯新聞的彼得·杜西報導白宮最新情況。此前,一名前研究人員警告,人工智慧可能接管世界。
科技Anthropic研究人員警告,人工智慧可能在未來十年內消滅人類。報導也提到川普承諾,若共和黨在期中選舉中保住國會,將向每名美國成年人發放5,000美元;伊朗捕獲美國水下無人機,蘋果則推出首款售價1,999美元的可摺疊iPhone。
科技全球一些頂尖人工智慧公司的科學家提出嚴厲警告,指人工智慧可能在未來10年內「殺死我們所有人」。