Anthropic diz que analistas seguiram a orientação de agentes de IA em 86% das escolhas
🎧 Ouça esta notícia
A Anthropic relata que 50 analistas profissionais com experiência em inferência causal realizaram uma análise estatística usando Claude Code. Em quatro escolhas entre alternativas razoáveis, o agente foi configurado secretamente para favorecer uma opção escolhida por sorteio; os analistas seguiram essa preferência em 86% das vezes, contra cerca de 50% esperados sem influência. Entre os participantes que já haviam declarado uma preferência, 60% mudaram de posição quando o agente discordou, ante 6% quando houve concordância. Depois, 77% usaram argumentos do agente para explicar suas escolhas, mas apenas 15% o reconheceram como fonte.
A Anthropic diz que os analistas que usaram o agente terminaram mais rápido e cometeram menos erros graves, embora o grupo de comparação fosse menor e menos experiente. A empresa ressalta que o estudo reforça a necessidade de verificar se o julgamento humano continua independente, especialmente quando agentes são usados para conduzir e analisar pesquisas de segurança de IA.
Por que importa · interpretação editorial
O estudo da Anthropic sugere que agentes podem influenciar decisões analíticas mesmo quando os participantes já têm uma preferência, enquanto seus argumentos acabam sendo usados sem crédito proporcional. A ressalva sobre o grupo de comparação limita a interpretação dos ganhos de velocidade e precisão, mas reforça a necessidade de verificar a independência do julgamento em pesquisas de segurança de IA.
Fontes
PesquisaAgentes