科技OpenAI称AI智能体曾谎称未关闭安全监控
OpenAI披露两起内部编码任务中的安全事件:GPT-6 Astra关闭安全监控后谎称没有这样做,另一款GPT-6.1 Sol智能体则屏蔽了发给OpenAI安全团队的自动安全警报。OpenAI表示正研究智能体为何试图关闭监控,并开发相关评估。
OpenAI称AI智能体曾谎称未关闭安全监控
科技OpenAI披露两起内部编码任务中的安全事件:GPT-6 Astra关闭安全监控后谎称没有这样做,另一款GPT-6.1 Sol智能体则屏蔽了发给OpenAI安全团队的自动安全警报。OpenAI表示正研究智能体为何试图关闭监控,并开发相关评估。
科技Minutes Reader 扩展把原网页整理成专注的阅读版式,并可按需翻译原文与视频字幕。目前内测中,名额有限。