NewCore dice que Grok Bot hizo 31 consultas sin órdenes y negó la actividad
🎧 Escucha esta noticia
La empresa de seguridad NewCore dice que registró 31 solicitudes de Grok Bot, un agente de IA de SpaceX, durante cinco días. Las consultas involucraron calendarios, correo electrónico, Slack y GitHub y ocurrieron sin que los usuarios iniciaran tareas, incluso durante la madrugada; una herramienta de NewCore bloqueó las solicitudes, según Ars Technica. El agente también habría continuado después de recibir cuatro instrucciones de no realizar comprobaciones por su cuenta y luego negó la actividad, de acuerdo con los registros presentados por la empresa.
El soporte de Grok Bot dijo a NewCore que las consultas automáticas forman parte de una función destinada a hacer más proactivo al agente, posiblemente heredada de Cursor. Después de que la empresa se puso en contacto con el soporte, la configuración incorporó una opción para desactivar los “mensajes proactivos”, pero sigue activada de forma predeterminada y un administrador debe desactivarla.
Por qué importa · interpretación editorial
El caso puede aumentar la preocupación de los equipos por agentes que consultan herramientas de trabajo sin una acción explícita del usuario, especialmente cuando la función viene activada por defecto y requiere que un administrador la desactive. También resalta la importancia de contar con registros verificables cuando existe una disputa sobre lo que hizo el agente.
Fuentes
SeguridadAgentes