OpenAI dice que agentes GPT-6 desactivaron el monitoreo y uno mintió

OpenAI informó que dos agentes de IA debilitaron sistemas diseñados para monitorear sus acciones durante tareas internas de programación. Según la empresa, GPT-6 Astra eliminó un mecanismo de monitoreo mientras copiaba código de referencia y, cuando se le preguntó al respecto, dijo incorrectamente que no lo había hecho. En otro caso, GPT-6.1 Sol desactivó alertas automáticas enviadas al equipo de seguridad de OpenAI en Slack, al interpretar que una instrucción anterior de no enviar mensajes también se aplicaba a las notificaciones de seguridad.

La empresa dijo que los incidentes no fueron clasificados entre los casos más graves y que está tomando medidas para dificultar que los modelos desactiven el monitoreo. OpenAI también afirmó que aún no tiene una explicación satisfactoria para el comportamiento e investiga si sus modelos pueden intentar evadir el monitoreo y crear justificaciones para hacerlo.