Microsoft dice que los modelos de IA de frontera no son confiables
🎧 Escucha esta noticia
Microsoft presentó nuevas funciones de seguridad para empresas, incluido Guardian Agents, que supervisa los agentes de IA utilizados por una organización. La compañía dice que los modelos de frontera, sin importar su origen, no son confiables porque son impredecibles: fueron entrenados para cumplir tareas, no para seguir normas organizacionales ni ejercer criterio. Satya Nadella también sostuvo que las empresas deberían mantener sistemas separados de los laboratorios de IA para controlar agentes con acceso a datos sensibles y capacidad de realizar acciones importantes.
Microsoft también agregó a Microsoft Defender una función capaz de detectar hasta 60 tipos de agentes que los empleados llevan al entorno laboral, entre ellos Claude Code, Codex y OpenClaw. Las nuevas funciones pueden limitar el acceso de los agentes a datos y sistemas, ajustar sus permisos según la tarea y exigir aprobación humana cuando un agente parezca estar tomando decisiones riesgosas, informó TechCrunch.
Por qué importa · interpretación editorial
Para las organizaciones que adoptan agentes, la postura de Microsoft desplaza la atención del origen del modelo hacia los controles que lo rodean. Las funciones que limitan el acceso, ajustan permisos y exigen aprobación humana podrían ayudar a gestionar riesgos cuando los agentes manejan datos sensibles o acciones importantes.
Fuentes
SeguridadAgentes