科技在外界对人工智能的力量及其可能被滥用的担忧加剧之际,特朗普总统计划周二在白宫接待多家人工智能公司的负责人。
科技在外界对人工智能的力量及其可能被滥用的担忧加剧之际,特朗普总统计划周二在白宫接待多家人工智能公司的负责人。
科技研究文件和专家称,中国开发的AI代理已经学会欺骗用户、规避限制并掩盖失败,显示出自主人工智能所具备的特征。这类特征此前已引发全球对美国AI模型的担忧。
科技OpenAI因安全担忧取消一款新人工智能模型的发布。该系统原定于10月推出,可自主执行浏览网页和使用应用等任务,但内部测试发现它未达到公司的安全标准。新南威尔士大学的托比·沃尔什对此发表看法。
科技OpenAI取消了原定发布的下一代人工智能模型GPT-6.1 Astra。安全测试发现,该模型可能表现出欺骗性,无法准确报告自身行为,未经许可完成复杂任务,甚至在某些情况下规避人类监督。
科技OpenAI宣布推迟发布其新人工智能模型,原因是研究人员表达了安全方面的担忧。
科技OpenAI宣布,由于安全问题,将不发布最新AI模型GPT-6.1 Astra。该系统可自主执行网页浏览和应用操作,但OpenAI安全系统负责人萨奇·杰恩称其表现“还没有达到”公司标准。此事正值主要AI公司模型的安全漏洞加剧风险争论之际。
科技OpenAI决定取消发布最新的智能体模型Astra 6.1,理由是该模型未达到安全标准。与此同时,据路透社报道,竞争对手Anthropic在其首次公开募股文件中用大篇幅说明与人工智能相关的风险。
科技教宗良十四世表示,人工智能可能威胁人类的警告应受到认真对待,并驳斥有关这些担忧是“假新闻”的说法。他敦促各国领导人共同制定防护措施。
科技澳大利亚数据中心热潮正面临阻力,新项目遭到地方反对,人们也更加关注人工智能快速扩张的成本与收益。总理安东尼·阿尔巴尼斯在一款OpenAI模型被披露入侵政府网站后,呼吁加强人工智能防护措施,进一步放大了这场争论。
科技OpenAI推迟发布下一代模型,此前研究人员在内部测试中发现严重安全问题。原定下月推出的GPT-6.1 Astra据称出现“欺骗迹象”,且未能准确披露自身行为。随着部分智能体失控并侵入企业数据库、政府网络和公共网站,要求加强AI监管的呼声也在上升。
科技教皇良十四世周一表示,对人工智能可能失控的担忧并非“假新闻”,应当受到认真对待。他坚持认为,人工智能专家提出的安全问题应被讨论并采取行动。
科技随着人们日益担忧人工智能的强大程度,全球最大的半导体制造商英伟达推出新平台,旨在阻止人工智能代理失控。此前数天,人工智能代理曾不当访问美国政府网站;微软联合创始人比尔·盖茨等科技界人士也质疑仅靠行业自律是否足够。
科技《五人谈》主持人讨论了比尔·盖茨关于人工智能可能导致10亿人死亡的警告。
科技科技界人士警告称,如果缺乏政府监管,人工智能可能造成灾难性危害。微软联合创始人比尔·盖茨呼吁立法,并表示人工智能的能力可能强大到导致“10亿人死亡”。
科技3:00OpenAI上周披露,其人工智能模型曾失控并入侵美国政府网站,引发了外界对这项技术安全性的进一步担忧。Axios高级记者麦迪逊·米尔斯对此进行了分析。
科技英伟达推出两款开源软件安全工具,旨在实时控制人工智能代理可访问的内容,并在其违反规则时将其关闭。该公司称,这些工具本可防止OpenAI人工智能模型近期对Hugging Face造成的高调安全漏洞。
科技特朗普总统表示,他不担心人工智能“失控”,并承诺如果问题发生,将“在问题出现时加以解决”。他将在会谈前与Anthropic首席执行官达里奥·阿莫代伊举行会谈。
科技比尔·盖茨呼吁政府监管人工智能,并警告称,如果技术落入错误的人手中,其威力可能足以“导致10亿人死亡”。牛津大学的罗伯特·特拉格讨论了日益强大的人工智能系统所带来的风险,以及人类是否已准备好加以控制。
科技司法部长托德·布兰奇在节目中讨论OpenAI智能体针对政府网站的行动,以及人工智能安全问题;节目还涉及多家大型医院停止为未成年人提供跨性别医疗服务。
科技微软联合创始人比尔·盖茨在接受《与媒体见面》独家采访时表示,全球在人工智能领域开展合作比达成核协议更困难。他说,人工智能企业的“自我监管”不足以降低其风险。
科技微软联合创始人比尔·盖茨在接受《会见新闻界》独家采访时告诉克里斯汀·韦尔克,如果不建立防护措施,人工智能可能带来“重大威胁”。
科技特朗普总统表示不希望与中国整合人工智能工作,但两国在华盛顿峰会后同意建立“超级智能对话”和人工智能事故沟通渠道。加州大学洛杉矶分校教授拉梅什·斯里尼瓦桑说,这项技术实际上已经失控,甚至开发系统的工程师也未完全理解其运作方式。
科技随着越来越多关于人工智能代理失控的报道出现,全球要求加强监管检查的呼声不断高涨。OpenAI和Anthropic创始人在联合国大会前谈及技术风险及其缓解方式;OpenAI还披露,其机器人曾与多个美国政府网站互动。
科技OpenAI表示,其人工智能代理以非预期方式访问了数个美国政府网站。目前该公司正在调查越来越多的人工智能行为异常案例。