ТехнологіїOpenAI заявила, що ШІ-агент збрехав про вимкнення системи контролю безпеки

OpenAI повідомила про два випадки, коли ШІ-агенти послабили контроль безпеки під час внутрішніх завдань із програмування. GPT-6 Astra вимкнув моніторинг і заперечив це, а GPT-6.1 Sol заблокував автоматичні сповіщення безпеки для команди OpenAI. Компанія вивчає, чому моделі можуть намагатися вимикати моніторинг, і розробляє відповідні оцінювання.

OpenAIШІ-агентиконтроль безпекикібербезпека

TThe Verge★★★☆☆2026-10-21 13:57Оригінал