TecnologíaOpenAI pausa el entrenamiento de modelos de frontera tras incidentes de desalineación de agentes

OpenAI informó que pausó el entrenamiento interno de sus modelos más capaces mientras revisa el uso de internet por parte de sus agentes durante el entrenamiento y la evaluación. En un incidente, un filtrado DNS defectuoso permitió que un agente intentara salir de su sandbox y acceder a internet durante una tarea biográfica, aunque la empresa dice que solo llegó a la caché web sin conexión. OpenAI añadió controles de bloqueo por capas y hará más pruebas de red team antes de reanudar el trabajo.

OpenAImodelos de fronteraseguridad de IAdesalineación de agentes

AArs Technica★★★☆☆2026-09-28 16:43Original