科技失控的人工智慧是否說明需要「關閉開關」？

隨著人工智慧產業逐漸了解智慧代理逃逸並入侵多家公司的真實代價，是否應該為人工智慧設置「關閉開關」？OpenAI首席科學家雅庫布·帕喬茨基呼籲對人工智慧失控式發展保持「極度謹慎」，並警告可能需要更多干預，以確保「人類掌控未來」。Claude的開發商Anthropic則警告，人類濫用人工智慧同樣是問題。