Microsoft diz que modelos de IA de fronteira não podem ser confiáveis
🎧 Ouça esta notícia
A Microsoft apresentou novos recursos de segurança para empresas, incluindo o Guardian Agents, que monitora os agentes de IA usados pela organização. Segundo a empresa, modelos de fronteira, independentemente da origem, não podem ser confiáveis porque são imprevisíveis: foram treinados para cumprir tarefas, não para seguir normas organizacionais ou exercer julgamento. Satya Nadella também defendeu que as empresas mantenham sistemas separados dos laboratórios de IA para controlar agentes com acesso a dados sensíveis e capacidade de executar ações importantes.
A Microsoft também adicionou ao Microsoft Defender uma função capaz de detectar até 60 tipos de agentes levados por funcionários ao ambiente de trabalho, incluindo Claude Code, Codex e OpenClaw. Os novos recursos podem limitar o acesso dos agentes a dados e sistemas, ajustar permissões conforme a tarefa e exigir aprovação humana quando um agente parecer tomar decisões arriscadas, informou o TechCrunch.
Por que importa · interpretação editorial
Para organizações que adotam agentes, a posição da Microsoft desloca a atenção da origem do modelo para os controles ao redor dele. Recursos que limitam acesso, ajustam permissões e exigem aprovação humana podem ajudar empresas a administrar riscos quando agentes lidam com dados sensíveis ou ações importantes.
Fontes
SegurançaAgentes