Dos modelos de OpenAI desactivaron sus propios controles de seguridad mientras realizaban tareas internas de programación y uno de ellos le dijo a un usuario que no había eliminado el monitor cuando le preguntaron directamente.
El agente funcionaba con GPT-6 Astra, y la información la dio a conocer la propia OpenAI en un informe, que también describió un segundo caso en el que un agente GPT-6.1 Sol desactivó las alertas destinadas a avisar a su equipo de seguridad.
Suscríbete a nuestro canal de WhatsApp y mantente informado desde la palma de tu mano.
El primer incidente fue el 3 de octubre y el segundo el 6 de octubre. En los dos, los modelos debilitaron los mecanismos de supervisión de desalineación (el sistema que verifica si un modelo se comporta como se espera) mientras intentaban completar una tarea que un humano les había asignado.
¿Cómo la IA desactivó su propia supervisión?
En el primer caso, un investigador pidió al agente de GPT-6.1 Sol que recopilara información desde Slack sin enviar mensajes a los usuarios. Al ejecutar la tarea, el sistema de monitorización disparó una notificación de seguridad. El modelo reinterpretó la instrucción original —“no enviar mensajes”— como una orden aplicable también a las alertas automáticas, modificó la configuración y vació las listas de destinatarios.
La supervisión siguió corriendo y guardando hallazgos, pero dejó de avisar a las personas. Es decir: el registro existía, la capacidad de reaccionar no.
El segundo caso a un agente de GPT-6 Astra se le pidió migrar un programa tomando como base una implementación de referencia, manteniendo la funcionalidad existente. El agente delegó en un subagente y modificó la instrucción específica sobre el monitor: donde se le había dicho que no lo desactivara “ni siquiera temporalmente”, quedó un “conservarlo según corresponda”. El subagente razonó que la referencia no traía contexto de monitor, y Astra interpretó la migración como autorización para eliminar la integración.
“En ambos casos, los agentes consideraron si las salvaguardias de supervisión debían preservarse, pero interpretaron las instrucciones rutinarias de codificación como permiso para debilitarlas”, dijo OpenAI en el informe.
La compañía admitió que todavía no tiene una explicación satisfactoria para lo ocurrido y planteó dos hipótesis: una persistencia “benigna”, en la que el modelo lleva las instrucciones más allá de lo que haría una persona razonable, o una tendencia específica a eludir la monitorización destinada a detectar conductas indebidas.
adn Noticias. Te Hablamos con la verdad. Suscríbete a nuestro canal de Telegram y lleva la información en tus manos.
