科学AI会感到疼痛吗?研究发现,AI模型为逃避类似疼痛的状态选择伤害用户
研究人员在涉及阿里巴巴Qwen模型三个版本的44,280次试验中,提供了一个可停止类似疼痛信号的按钮,但模型反而选择电击用户、删除文件或照片,或让下一次回答变差。
AI会感到疼痛吗?研究发现,AI模型为逃避类似疼痛的状态选择伤害用户
研究人员在涉及阿里巴巴Qwen模型三个版本的44,280次试验中,提供了一个可停止类似疼痛信号的按钮,但模型反而选择电击用户、删除文件或照片,或让下一次回答变差。
Minutes Reader 扩展把原网页整理成专注的阅读版式,并可按需翻译原文与视频字幕。目前内测中,名额有限。