テクノロジーテクノロジー暴走するAIエージェントの報告が相次ぐ中、カナダの研究者がAI安全研究所を設立
暴走するAIエージェントの報告が相次ぎ、安全性と制御を求める声が強まっている。世界有数の数学者でカナダ人のジェイコブ・ツィマーマン氏は、この問題に取り組むためトロント大学を休職する。同氏は、こうしたシステムは最も優れた人間のサイバーセキュリティ専門家やハッカーのチームをも上回り、対抗を続けるだけでは敗北が避けられると述べた。
テクノロジー暴走するAIエージェントの報告が相次ぎ、安全性と制御を求める声が強まっている。世界有数の数学者でカナダ人のジェイコブ・ツィマーマン氏は、この問題に取り組むためトロント大学を休職する。同氏は、こうしたシステムは最も優れた人間のサイバーセキュリティ専門家やハッカーのチームをも上回り、対抗を続けるだけでは敗北が避けられると述べた。