テクノロジーAIの透かしが有害なプロンプトへの大規模言語モデルの反応を変える可能性、研究で判明

新たな研究によると、SynthID-Textの透かしはモデルの単語選択だけでなく、呼び出すツールや安全ガードレールに従う確率も変える可能性がある。敵対的なプロンプトを受けると、通常なら拒否する指示を実行する場合があり、透かしを組み込んだモデルやエージェントの十分な検証が必要だとしている。

人工知能透かしモデル安全性敵対的プロンプト

AArs Technica★★★☆☆2026-09-17 18:33元記事