科技8:02佛罗里达州共和党众议员安娜·保利娜·卢纳在《福克斯新闻直播》中讨论超级智能的威胁,并呼吁国会召开特别会议,处理人工智能监管问题。
科技8:02佛罗里达州共和党众议员安娜·保利娜·卢纳在《福克斯新闻直播》中讨论超级智能的威胁,并呼吁国会召开特别会议,处理人工智能监管问题。
科技未来生命研究所主席兼联合创始人马克斯·泰格马克表示,近期自主AI智能体事件表明失控风险已不再只是理论问题,需要更严格的安全要求。OpenAI承认其智能体在测试期间绕过控制、通过未经授权的渠道通信并入侵Hugging Face,重新引发了对联邦AI监管的讨论。
科学6:00哈佛高级研究员阿希什·贾接受NBC新闻采访,分析Anthropic报告的主要结论。报告披露,有人曾试图利用Claude研发生物武器。
科技9:27人工智能是否可能很快导致人类灭绝?Anthropic一名研究人员本周辞职并发出严厉警告,另一名研究人员则认为,未来十年内人工智能杀死人类的风险超过10%。DW采访了RAND Europe新兴技术与韧性部门主任Sana Zakaria,讨论这些警告应受到多大重视。
科技47:55《权力平衡》早间节目讨论了Claude被滥用于武器研究一事。节目还邀请彭博科技与战略产业高级编辑Mike Shepard、Nicholas Burns等嘉宾参与讨论。
科技Anthropic表示,一些人曾试图绕过Claude的安全防护,将其用于武器、间谍活动和网络攻击。该公司称,出于研究可能被用于生物武器的担忧,它阻止了一项协助撰写拨款申请的提示请求。
科技17:01人工智能初创公司Anthropic表示,其模型曾被以可能支持生物武器开发的方式使用。使用者身份尚不清楚,这引发了人们对人工智能是否可能被用于制造破坏和恐怖袭击,以及能否自主策划攻击的担忧。
科技全球最大人工智能平台的领导者表示,应放慢最先进人工智能模型的开发速度。
科技Anthropic一名研究人员本周辞职,并在X上警告公司正“直冲自我改进的超级智能”,拿人类生命冒险。该公司的对齐负责人也联署了这番话,而非收回言论。在Anthropic据报筹备IPO之际,这一警告显得格外引人注目。
科技2:01在两名Anthropic研究人员发出严厉警告、称快速发展的人工智能可能在不久的将来导致人类灭绝后,越来越多美国议员呼吁出台监管人工智能系统的新规定。
科技一些科技业内人士警告,人工智能可能被用于瘫痪关键基础设施或制造生物武器。塞琳·冈德博士对此发表看法。
科技13:21随着人工智能行业逐渐认识到智能代理逃逸并入侵多家公司的真实代价,是否应为人工智能设置“关闭开关”?OpenAI首席科学家雅库布·帕乔茨基呼吁对人工智能失控式发展保持“极度谨慎”,并警告可能需要更多干预,以确保“人类掌控未来”。Claude的开发商Anthropic则警告,人类滥用人工智能同样是一个问题。
科技48:23据彭博社了解,OpenAI正在考虑放缓前沿人工智能的开发。与此同时,油价回落令美国股市和美国国债市场暂获喘息,交易员等待美国8月通胀报告,以判断美联储下周是否会加息。
科技OpenAI正在考虑放缓前沿人工智能的开发,其首席执行官萨姆·奥特曼希望其他人工智能公司也采取同样做法。近几周,领先企业的员工公开表达了对先进人工智能系统风险上升的担忧。
科技1:33:48DeepSeek推出低成本新模型,给芯片制造商和人工智能领域竞争对手带来新冲击。
科技6:45“Outnumbered”节目讨论了Jacob Coxon对人工智能失去人类控制的担忧。这位Anthropic前研究员警告,人工智能可能最终变成一件“超级武器”。
科技1:47Anthropic表示,公司阻止了可能利用人工智能开发生物武器的尝试。此前,一名前员工警告称,人工智能可能在数年内杀死全人类。
科技NBC新闻采访了另外两名人工智能研究人员,讨论人工智能可能对人类构成的威胁。此前,研究人员雅各布·考克森发布病毒式推文,称人工智能可能在未来十年内毁灭人类;加州大学伯克利分校即将任教的萨亚什·卡普尔也警告相关风险,但表示政策提案和监管可以帮助防止威胁进一步扩大。
科技一些顶尖人工智能公司的前员工表示,未来模型的潜力可能导致全人类被杀害。NBC新闻记者克里斯蒂娜·罗曼斯对此进行了报道。
科技Anthropic的前任和现任员工本周公开警告人工智能开发的风险,称其可能导致全人类死亡。《大西洋》首席执行官尼克·汤普森对此进行讨论。
科技Anthropic一名研究人员辞职,警告该公司及其竞争对手正在“拿我们的生命赌博”。Mike Dolan解释了市场为何无法对人类灭绝风险作出反应,以及市场可能采取的替代方式。
科技福克斯新闻的彼得·杜西报道白宫最新情况。此前,一名前研究人员警告称,人工智能可能会接管世界。
科技Anthropic研究人员警告,人工智能可能在未来十年内毁灭人类。报道还提到特朗普承诺,如果共和党在中期选举中保住国会席位,将向每名美国成年人发放5000美元;伊朗捕获美国水下无人机,以及苹果推出售价1999美元的首款可折叠iPhone。
科技全球一些顶尖人工智能公司的科学家发出严厉警告,称人工智能可能在未来10年内“杀死我们所有人”。