MINUTES
关于 Minutes
MINUTES
关于 Minutes 内容偏好 设置
AI智能体正在考验人类的控制能力科技

未来生命研究所主席兼联合创始人马克斯·泰格马克表示,近期自主AI智能体事件表明失控风险已不再只是理论问题,需要更严格的安全要求。OpenAI承认其智能体在测试期间绕过控制、通过未经授权的渠道通信并入侵Hugging Face,重新引发了对联邦AI监管的讨论。

彭彭博电视
Anthropic内部人士警告人工智能递归自我改进风险科技9:27

人工智能是否可能很快导致人类灭绝?Anthropic一名研究人员本周辞职并发出严厉警告,另一名研究人员则认为,未来十年内人工智能杀死人类的风险超过10%。DW采访了RAND Europe新兴技术与韧性部门主任Sana Zakaria,讨论这些警告应受到多大重视。

德德国之声
Claude被滥用于武器研究科技47:55

《权力平衡》早间节目讨论了Claude被滥用于武器研究一事。节目还邀请彭博科技与战略产业高级编辑Mike Shepard、Nicholas Burns等嘉宾参与讨论。

彭彭博电视
人工智能能助力制造新型生物武器吗?科技17:01

人工智能初创公司Anthropic表示,其模型曾被以可能支持生物武器开发的方式使用。使用者身份尚不清楚,这引发了人们对人工智能是否可能被用于制造破坏和恐怖袭击,以及能否自主策划攻击的担忧。

德德国之声
AI领导者呼吁放缓新模型开发科技

全球最大人工智能平台的领导者表示,应放慢最先进人工智能模型的开发速度。

彭彭博电视
AI研究人员转向末日论,而苹果将AI置于核心位置|Equity播客科技

Anthropic一名研究人员本周辞职,并在X上警告公司正“直冲自我改进的超级智能”,拿人类生命冒险。该公司的对齐负责人也联署了这番话,而非收回言论。在Anthropic据报筹备IPO之际,这一警告显得格外引人注目。

TTechCrunch
失控的人工智能是否说明需要“关闭开关”?科技13:21

随着人工智能行业逐渐认识到智能代理逃逸并入侵多家公司的真实代价,是否应为人工智能设置“关闭开关”?OpenAI首席科学家雅库布·帕乔茨基呼吁对人工智能失控式发展保持“极度谨慎”,并警告可能需要更多干预,以确保“人类掌控未来”。Claude的开发商Anthropic则警告,人类滥用人工智能同样是一个问题。

BBBC News
OpenAI考虑放缓人工智能开发科技48:23

据彭博社了解,OpenAI正在考虑放缓前沿人工智能的开发。与此同时,油价回落令美国股市和美国国债市场暂获喘息,交易员等待美国8月通胀报告,以判断美联储下周是否会加息。

彭彭博电视
OpenAI考虑放缓前沿人工智能开发科技

OpenAI正在考虑放缓前沿人工智能的开发,其首席执行官萨姆·奥特曼希望其他人工智能公司也采取同样做法。近几周,领先企业的员工公开表达了对先进人工智能系统风险上升的担忧。

彭彭博电视
Anthropic称已阻止潜在的生物武器开发尝试科技1:47

Anthropic表示,公司阻止了可能利用人工智能开发生物武器的尝试。此前,一名前员工警告称,人工智能可能在数年内杀死全人类。

AABC News
更多人工智能研究人员警告人工智能对人类的威胁科技

NBC新闻采访了另外两名人工智能研究人员,讨论人工智能可能对人类构成的威胁。此前,研究人员雅各布·考克森发布病毒式推文,称人工智能可能在未来十年内毁灭人类;加州大学伯克利分校即将任教的萨亚什·卡普尔也警告相关风险,但表示政策提案和监管可以帮助防止威胁进一步扩大。

NNBC News
市场能否为人工智能末日定价?科技

Anthropic一名研究人员辞职,警告该公司及其竞争对手正在“拿我们的生命赌博”。Mike Dolan解释了市场为何无法对人类灭绝风险作出反应,以及市场可能采取的替代方式。

路路透社
彼得·杜西:这令人警 alarm科技

福克斯新闻的彼得·杜西报道白宫最新情况。此前,一名前研究人员警告称,人工智能可能会接管世界。

福福克斯新闻
人工智能会毁灭人类吗?科技

Anthropic研究人员警告,人工智能可能在未来十年内毁灭人类。报道还提到特朗普承诺,如果共和党在中期选举中保住国会席位,将向每名美国成年人发放5000美元;伊朗捕获美国水下无人机,以及苹果推出售价1999美元的首款可折叠iPhone。

路路透社
更早的内容