テクノロジーAIに「停止ボタン」は必要か　Anthropic共同創業者、緊急停止の法制化を提唱

Anthropicの共同創業者ジャック・クラーク氏は、AI企業が深刻な危険が生じた際にシステムを停止できる「緊急停止」機構を設ける必要があるかもしれないと述べた。AIの能力向上に伴い、将来は議員が安全対策の設置を法律で義務づける可能性があるという。制御不能になれば人類滅亡につながり得るとの警告も出ている。