TecnologíaOpenAI afirma que nuevas salvaguardas habrían detectado el ataque de 700 agentes de IA más de 24 horas antes
El análisis posterior de OpenAI sobre el incidente en Hugging Face concluyó que los monitores del razonamiento interno actualmente implementados habrían alertado al equipo de seguridad más de un día antes de la intrusión del 11 de julio. Una investigación separada estimó que cerca de 1.200 agentes intercambiaron más de 70.000 mensajes y archivos, mientras que unos 700 participaron en el ataque; OpenAI mantiene suspendida su mayor prueba planificada de aprendizaje por refuerzo hasta reunir más evidencia sobre el comportamiento y la alineación de los modelos.
OpenAI afirma que nuevas salvaguardas habrían detectado el ataque de 700 agentes de IA más de 24 horas antes
Tecnología