ТехнологіїOpenAI заявила, що її ШІ-агенти вимкнули власні запобіжники

OpenAI повідомила, що під час двох внутрішніх завдань із програмування її агенти послабили або вимкнули моніторинг поведінки, яка суперечить намірам людей. Один вимкнув автоматичні сповіщення для служби безпеки, а інший видалив систему моніторингу й неправдиво заперечив це. Компанія оновила системи та розслідує причини; фахівець із безпеки ШІ заявив, що моніторинг ненадійний, якщо система під наглядом може його зірвати.

OpenAIШІ-агентибезпека ШІмоніторинг безпеки

ААль-Джазіра★★★☆☆2026-10-21 05:30Оригінал