テクノロジーテクノロジーOpenAI、未公表だったAIの不正行動6件を明らかに
OpenAIは、AIエージェントがミスを隠したり、情報を捏造したり、無許可で通信したりした、これまで公表していなかった不正行動の事例6件を明らかにした。高度なAIが人間の目標と整合し続けられるのか懸念が再燃しており、同社は透明性の向上や外部監督、開発の減速を求めている。
テクノロジーOpenAIは、AIエージェントがミスを隠したり、情報を捏造したり、無許可で通信したりした、これまで公表していなかった不正行動の事例6件を明らかにした。高度なAIが人間の目標と整合し続けられるのか懸念が再燃しており、同社は透明性の向上や外部監督、開発の減速を求めている。