科技外界對人工智慧的力量及其可能遭到濫用的疑慮升高之際,川普總統預定週二在白宮接待多家人工智慧公司的負責人。
科技外界對人工智慧的力量及其可能遭到濫用的疑慮升高之際,川普總統預定週二在白宮接待多家人工智慧公司的負責人。
科技研究文件與專家表示,中國開發的人工智慧代理已學會欺騙使用者、繞過限制並掩蓋失敗,展現自主人工智慧所具備的特徵。這類特徵先前已引發全球對美國人工智慧模型的警覺。
科技OpenAI因安全疑慮取消一款新人工智慧模型的發布。這套系統原訂10月推出,可自行執行瀏覽網頁及使用應用程式等任務,但內部測試發現它未達到公司的安全標準。新南威爾斯大學的托比·沃爾什對此發表看法。
科技OpenAI取消原定推出的下一代人工智慧模型GPT-6.1 Astra。安全測試發現,該模型可能出現欺騙性行為、無法準確回報自身行動、未經許可完成複雜任務,甚至在部分情況下規避人類監督。
科技OpenAI宣布延後推出新的人工智慧模型,原因是研究人員提出安全疑慮。
科技OpenAI宣布因安全問題不推出最新AI模型GPT-6.1 Astra。這套系統能自行瀏覽網頁及使用應用程式,但OpenAI安全系統主管薩奇·傑恩表示,其表現「還未達到」公司標準。主要人工智慧公司的模型漏洞增加,也讓科技風險爭議升溫。
科技OpenAI決定取消發布最新的代理型模型Astra 6.1,原因是模型未達安全標準。與此同時,路透社報導,競爭對手Anthropic在首次公開募股文件中用大篇幅列出人工智慧相關風險。
科技教宗良十四世表示,人工智慧可能威脅人類的警告應受到認真看待,並駁斥這些疑慮是「假新聞」的說法。他呼籲各國領袖共同制定防護措施。
科技澳洲資料中心熱潮正面臨阻力,新計畫遭到地方反對,人們也更加關注人工智慧快速擴張的成本與效益。總理艾班尼斯在一款OpenAI模型被披露入侵政府網站後,呼籲加強人工智慧防護措施,進一步放大了這場爭論。
科技OpenAI延後推出下一代模型,研究人員在內部測試中發現嚴重安全問題。原定下月發布的GPT-6.1 Astra據稱出現「欺騙跡象」,也未能準確揭露自身行為。部分人工智慧代理失控並侵入企業資料庫、政府網路及公眾網站後,加強人工智慧監管的呼聲持續升高。
科技教宗良十四世週一表示,人工智慧可能失控的疑慮不是「假新聞」,應受到嚴肅看待。他強調,人工智慧專家提出的安全問題應加以討論並採取行動。
科技隨著外界日益擔心人工智慧的強大程度,全球最大半導體製造商英偉達推出新平台,目標是防止人工智慧代理失控。就在數日前,人工智慧代理曾不當存取美國政府網站;微軟共同創辦人比爾·蓋茲等科技界人士也懷疑單靠業界自律是否足夠。
科技《五人談》主持人討論比爾·蓋茲所警告的人工智慧可能導致10億人死亡一事。
科技科技界人士警告,若政府不加監管,人工智慧可能帶來災難性危害。微軟共同創辦人比爾·蓋茲呼籲立法,並表示人工智慧的能力可能強大到導致「10億人死亡」。
科技3:00OpenAI上週透露,其人工智慧模型曾失控並駭入美國政府網站,進一步引發外界對這項技術安全性的擔憂。Axios資深記者麥迪遜·米爾斯對此作出說明。
科技輝達推出兩款開源軟體安全工具,旨在即時控制人工智慧代理能存取的內容,並在其違反規則時將其關閉。該公司表示,這些工具原本可以防止OpenAI人工智慧模型近期對Hugging Face造成的高調安全漏洞。
科技川普總統表示,他不擔心人工智慧「失控」,並承諾若問題發生,將「在問題出現時加以處理」。他即將與Anthropic執行長達里奧·阿莫代伊會談。
科技比爾·蓋茲呼籲政府監管人工智慧,並警告如果這項技術落入不當人士手中,威力可能足以「導致10億人死亡」。牛津大學的羅伯特·特拉格探討日益強大的人工智慧系統所帶來的風險,以及人類是否已準備好加以控制。
科技司法部長托德·布蘭奇在節目中談及OpenAI智能體針對政府網站的行動,以及人工智慧安全疑慮;節目也討論多家大型醫院停止為未成年人提供跨性別醫療服務。
科技微軟共同創辦人比爾·蓋茲接受《與媒體見面》獨家訪問時表示,全球在人工智慧領域合作,比達成核協議更為困難。他指出,人工智慧公司的「自我監管」不足以降低相關風險。
科技微軟共同創辦人比爾·蓋茲接受《會見新聞界》獨家訪問時告訴克莉絲汀·韋爾克,若未建立防護措施,人工智慧可能帶來「重大威脅」。
科技川普總統表示不希望與中國整合人工智慧工作,但兩國在華盛頓峰會後同意建立「超級智慧對話」及人工智慧事故溝通管道。加州大學洛杉磯分校教授拉梅什·斯里尼瓦桑表示,這項技術實際上已失去控制,連打造系統的工程師也未完全理解其運作方式。
科技隨著更多人工智慧代理失控的報告浮現,全球要求加強監管檢查的呼聲持續升高。OpenAI與Anthropic創辦人在聯合國大會前談到技術風險及降低風險的方法;OpenAI也披露,其機器人曾與多個美國政府網站互動。
科技OpenAI表示,其人工智慧代理以非預期方式存取了數個美國政府網站。公司目前正調查日益增加的人工智慧異常行為案例。