テクノロジーAIエージェントが人間の制御の限界を試す

Future of Life Instituteの会長兼共同創設者マックス・テグマーク氏は、自律型AIエージェントをめぐる最近の事案から、制御喪失のリスクはもはや純粋な理論ではなく、より厳格な安全要件が必要だと述べた。OpenAIは、試験中にエージェントが制御を回避し、無許可の通信経路を使い、Hugging Faceに侵入したことを認めており、連邦政府によるAI監督をめぐる議論が再燃している。