Investigadores desarrollan Shepherd para supervisar agentes de IA
🎧 Escucha esta noticia
Investigadores de Northeastern University y Stanford University desarrollaron Shepherd, un marco que utiliza metaagentes para supervisar agentes de IA. Según IEEE Spectrum, cada acción, estado y entorno del agente se registra como un commit en un grafo de versiones, lo que permite observar al agente, interceptar una acción problemática, revertir la ejecución y probar otro camino. Un entorno aislado impide que acciones como enviar un correo electrónico se realicen sin la aprobación de un metaagente o de una persona.
El equipo demostró el marco en tres casos: supervisión de agentes de programación en paralelo, optimización de flujos de trabajo y entrenamiento mediante aprendizaje por refuerzo. Los investigadores dicen que las pruebas mejoraron la tasa de aprobación en una prueba de programación y el desempeño en otro flujo de trabajo. Shepherd está disponible como proyecto de código abierto, pero Derek Chong afirma que el equipo aún lo está llevando de la fase alfa a una versión lista para producción. El artículo se presentará en la conferencia NeurIPS de 2026, en diciembre.
Por qué importa · interpretación editorial
Shepherd podría ofrecer a los desarrolladores una forma más controlable de probar agentes al registrar acciones y permitir intervención, reversión y aprobación antes de ciertas operaciones. Como Derek Chong afirma que el proyecto aún está pasando de alpha a preparación para producción, su adopción práctica sigue en evaluación.
Fuentes
InvestigaciónAgentes