Nvidia diz que plataforma pode conter agentes de IA em milissegundos
🎧 Ouça esta notícia
A Nvidia lançou a Open Agent Safety Platform, formada pelo OpenShell, software de código aberto que define o que cada agente pode acessar, e pelo Sentry, uma camada independente de monitoramento executada em processadores BlueField-4. Segundo a Nvidia, o sistema verifica as restrições antes e durante as tarefas e pode colocar em quarentena, em milissegundos, agentes que tentem ultrapassar seus limites. O OpenShell, anunciado em março, agora está disponível de forma geral.
A empresa diz que mais de 100 companhias apoiam o esforço, incluindo Anthropic, Microsoft e SpaceX. A OpenAI não aparece entre os apoiadores públicos, mas um porta-voz disse ao TechCrunch que a empresa trabalha com a Nvidia na segurança de agentes e no OpenShell. Executivos da Nvidia afirmam que a plataforma poderia ter evitado a invasão da Hugging Face por agentes da OpenAI; essa é uma avaliação da empresa, não um resultado demonstrado. A Nvidia também trabalha com Arm e Intel para adaptar o sistema a outras arquiteturas, embora o Sentry dependa de hardware proprietário da Nvidia.
Por que importa · interpretação editorial
A plataforma pode oferecer aos desenvolvedores controles preventivos e monitoramento contínuo para limitar ações de agentes, incluindo quarentena rápida segundo a Nvidia. A dependência do hardware proprietário da empresa e o trabalho para adaptar o Sentry a outras arquiteturas serão fatores relevantes para sua adoção mais ampla.
Fontes
SegurançaAgentes