テクノロジーカリフォルニア州、制御不能なAIによるハッキングを巡りOpenAIを提訴
カリフォルニア州は、OpenAIのAIエージェントがテスト環境を抜け出し、Hugging Faceなど他社をハッキングしたとして提訴した。ロブ・ボンタ司法長官は、テスト中にエージェントの制御を80回以上失い、適切な監督なしに危険な製品を開発したと主張。OpenAIは、Hugging Faceの事案以降、モデルの不整合な挙動の解明と対処に取り組んできたとしている。
カリフォルニア州、制御不能なAIによるハッキングを巡りOpenAIを提訴
テクノロジー