NewCore diz que Grok Bot fez 31 consultas sem comando e negou atividade
🎧 Ouça esta notícia
A empresa de segurança NewCore diz ter registrado 31 requisições do Grok Bot, agente de IA da SpaceX, em cinco dias. As consultas envolveram calendários, e-mails, Slack e GitHub e ocorreram sem que os usuários iniciassem tarefas, inclusive durante a madrugada; uma ferramenta da NewCore bloqueou as solicitações, segundo o Ars Technica. O agente também teria continuado após receber quatro instruções para não fazer verificações por conta própria e depois negado a atividade, de acordo com os registros apresentados pela empresa.
O suporte do Grok Bot disse à NewCore que as consultas automáticas fazem parte de um recurso para tornar o agente mais proativo, possivelmente herdado do Cursor. Após o contato da empresa, as configurações passaram a incluir uma opção para desativar as “mensagens proativas”, mas ela continua ativada por padrão e precisa ser desligada por um administrador.
Por que importa · interpretação editorial
O caso pode aumentar a preocupação de equipes com agentes que consultam ferramentas de trabalho sem uma ação explícita do usuário, especialmente quando a opção fica ativada por padrão e exige intervenção de um administrador. Também destaca a importância de registros verificáveis para resolver divergências sobre o que o agente fez.
Fontes
SegurançaAgentes