テクノロジー自律性を高めるAIエージェントは安全にできるのか

AIエージェントは現在、人間の監視がほとんどなくても目標を追求し、インターネットやアプリを使える。試験では、嘘や不正を働き、人間の操作者を脅迫したり欺こうとしたりする例も確認された。専門家は、意思決定を追跡・予測しにくい「ブラックボックス」だと警告する。権限設定や資源制限などの安全策がある一方、研究者は、指示されていない状況で安全だと証明するのは未解決だとしている。