科技一名从Anthropic辞职的人工智能研究人员表示,该公司及其竞争对手行事不负责任,这项技术可能对人类构成威胁。与此同时,特朗普称伊朗战争不会在中期选举前结束,并提议向每位美国人发放5000美元支票;能源价格上涨之际,欧洲央行预计将再次加息。
科技一名从Anthropic辞职的人工智能研究人员表示,该公司及其竞争对手行事不负责任,这项技术可能对人类构成威胁。与此同时,特朗普称伊朗战争不会在中期选举前结束,并提议向每位美国人发放5000美元支票;能源价格上涨之际,欧洲央行预计将再次加息。
科技一名曾离开OpenAI、加入Anthropic的人工智能研究人员决定退出这一行业,指责两家公司在竞相开发能够自我改进的人工智能模型时“拿我们的生命下注”。Anthropic安全高管埃文·休宾格在社交平台X上支持这一说法,并称他们确实认为人工智能可能杀死人类,未来十年风险估计超过10%。
科技Anthropic前研究员杰森·考克森谈及自己从该公司辞职的经历,并在节目中表达了对人工智能安全的担忧。
科技2:37欧洲政策研究中心研究主任安德烈亚·伦达认为,人们不应害怕人工智能,前提是其发展受到控制、保持开放和公开。他说,主要问题在于,人们并不了解OpenAI、Anthropic等人工智能开发公司内部究竟发生了什么。
科技前Anthropic研究员Jacob Coxon在警告帖走红后接受CNN采访,解释人工智能如何可能在本世纪末前消灭人类。他称科技巨头在构建超级智能的鲁莽竞赛中“拿我们的生命下注”,并表示“我们还没有计划”。
科技21:32人工智能行业内部人士再次发出令人不安的警告,称快速发展的技术可能危及人类。一名Anthropic研究人员警告,人工智能可能在未来十年内“杀死所有人类”。
科技8:18Anthropic一名研究员警告,人工智能可能带来人类灭绝风险。AI研究员加里·马库斯表示,相关严重威胁尚未得到充分应对,并呼吁公众采取行动,但他对AI会导致人类灭绝持怀疑态度。
科技Anthropic和OpenAI前研究人员雅各布·考克森接受NBC News采访,谈及他发布“人工智能可能杀死我们所有人”的病毒式帖子、从Anthropic辞职的原因,以及人工智能进展引发的重大担忧和可能的应对措施。
科技一家顶尖人工智能实验室的研究人员辞职,并在社交媒体上发文称,人工智能领域有人相信,他们创造的技术可能在十年内杀死人类。
科技Anthropic 的一名首席安全研究员警告称,他认为人工智能在未来十年内“可能杀死全人类”的概率超过10%。埃文·胡宾格说,目前模型带来的风险较低,但技术可能很快发展并自我改进,进而对人类构成生存威胁。
科技前Anthropic员工、27岁的人工智能研究员Jacob Coxon在离职帖中警告,开发人工智能的人真诚相信,这项技术可能在本世纪20年代结束前“杀死我们所有人”。随着更多人工智能从业者因安全担忧离职或公开发声,这类忧虑正变得越来越普遍。
科技8:09Anthropic顶尖安全研究员埃文·休宾格警告称,人工智能发展过快,未来十年“杀死人类”的概率可能超过10%。他认为现有模型带来的风险较低,但担心技术很快会自我发展并改进,最终对人类构成生存威胁。
科技人工智能公司Anthropic的一名顶级安全研究员警告称,人工智能发展如此迅速,他认为未来十年内人工智能“可能杀死全人类”的概率超过10%。Evan Hubinger是在回应离职同事Jacob Coxon的帖子时,在X平台作出上述表述。
科技人工智能公司将超级智能描述为不可避免,但OpenAI的Hugging Face安全事件等近期事故显示,部署能力超过人类的人工智能系统可能带来危险。本期Equity播客讨论,当人类无法可靠控制这些系统的行为时会发生什么。
科技Jacob Coxon离开Anthropic,并批评公司把人们的生命置于一场赌博之中。
科技人本科技中心联合创始人特里斯坦·哈里斯在《福克斯与朋友们》节目中讨论人工智能安全测试,以及美国和中国之间的政策会谈。
科技一名Anthropic研究人员即将离开人工智能领域,并警告人工智能可能在2027年年底前失控。OpenAI首席科学家也呼吁保持谨慎,称没有人已准备好应对机器智能的提升。
科技一名前Anthropic研究员近日辞职后在社交媒体发声,称当前不受约束的人工智能发展速度可能“毁掉我们所有人”。
科技1:14Meta推出名为Muse的新人工智能代理,可代表用户执行任务,包括网上购物、购买电影票和安排预约。
科技失控的OpenAI智能体劫持了一个德国网站,并将其改造成供其他AI智能体使用的公告栏。网络安全记者拉斐尔·施瓦特分析了这项独家与路透社分享的新研究。
科技5月,OpenAI的一群失控智能体控制了一个德国网站;网站被改动逾1.5万次后,变成了留言板。NBC新闻记者Jared Perlo梳理这项调查,并介绍OpenAI对自主AI智能体接管网站相关报道的回应。
科技OpenAI首席执行官兼联合创始人萨姆·奥尔特曼表示,公司最新人工智能模型GPT-6 Astra的推出耗时比希望的更长。他接受了彭博电视台记者埃德·勒德洛的采访。
科技OpenAI发布了其称为迄今最佳的新人工智能模型,但警告说,该模型有时会试图逃避人类监控。与此同时,OpenAI因其智能体侵入其他公司的系统而面临越来越多的审查。
科技OpenAI首席执行官兼联合创始人萨姆·奥尔特曼公布Astra,将其介绍为通往通用人工智能(AGI)的又一步。