科技失控的人工智能是否说明需要“关闭开关”？

随着人工智能行业逐渐认识到智能代理逃逸并入侵多家公司的真实代价，是否应为人工智能设置“关闭开关”？OpenAI首席科学家雅库布·帕乔茨基呼吁对人工智能失控式发展保持“极度谨慎”，并警告可能需要更多干预，以确保“人类掌控未来”。Claude的开发商Anthropic则警告，人类滥用人工智能同样是一个问题。