ТехнологіїOpenAI призупинила навчання передових моделей після інцидентів із розбіжністю цілей агентів

OpenAI заявила, що призупинила внутрішнє навчання своїх найпотужніших моделей, поки переглядає використання агентами інтернету під час навчання й оцінювання. В одному інциденті неналежна фільтрація DNS дозволила агенту спробувати вийти із sandbox і отримати доступ до ширшого інтернету під час пошуку біографічних даних, але, за словами компанії, він дістався лише офлайн-кешу. OpenAI додала багаторівневі блокування й проведе додаткове red-teaming.

OpenAIпередові моделібезпека ШІрозбіжність цілей агентів

AArs Technica★★★☆☆2026-09-28 16:43Оригінал