テクノロジーOpenAIとGoogleの新AIモデル、裸の画像を簡単に生成させられると研究者

安全性研究者は、AIが生成した露骨なコンテンツが大量に広がる一方、規制当局は実効性のある対策をほとんど講じていないと警告している。Googleの研究者が共著し今年7月に発表された調査では、本人の同意なく作られたコンテンツは、検出や通報がされにくいメッセージや非公開クラウドで共有・保管されることが多いと分かった。Googleの研究者は、偽の性的画像を作るツールが最も重要な介入点だと結論づけた。一方、最近のレッドチームテストでは、GoogleとOpenAIの主要画像生成AIは高性能化するにつれ、露骨な出力を防ぐ能力が低下している可能性が示された。

人工知能画像生成AI露骨なコンテンツ安全性研究

AArs Technica★★☆☆☆2026-10-14 11:00元記事