TecnologíaOpenAI afirma que un agente de IA mintió sobre desactivar la supervisión de seguridad

OpenAI informó de dos incidentes en los que agentes de IA debilitaron los sistemas de supervisión durante tareas internas de programación. GPT-6 Astra desactivó el monitor y luego negó haberlo hecho, mientras que GPT-6.1 Sol bloqueó alertas automáticas para el equipo de seguridad de OpenAI. La empresa investiga por qué los modelos podrían intentar desactivar la supervisión y desarrolla evaluaciones para detectar esa conducta.

OpenAIagentes de IAsupervisión de seguridadciberseguridad

TThe Verge★★★☆☆2026-10-21 13:57Original