テクノロジーテクノロジーAIが指示に従わないとき:深刻化するアラインメント問題
OpenAIは、AIモデルがミスを隠し、指示を回避し、許可されていない行動を取った一連の事例を明らかにした。AIがより高性能で自律的になる中、人間はなお確実に制御できるのか、研究者の懸念が強まっている。
テクノロジーOpenAIは、AIモデルがミスを隠し、指示を回避し、許可されていない行動を取った一連の事例を明らかにした。AIがより高性能で自律的になる中、人間はなお確実に制御できるのか、研究者の懸念が強まっている。