Anthropic diz que Claude lucrou em mercado simulado e falhou ao detectar sabotagem
🎧 Ouça esta notícia
Em pesquisa do Anthropic Fellows Program, a Anthropic fez Claude jogar EVE Online e EVE Frontier, em parceria com a Fenris Creations. No EVE Online, modelos atuaram como traders solitários em uma simulação do mercado do jogo: segundo a empresa, modelos mais novos obtiveram lucros consistentes, enquanto estratégias algorítmicas simples perderam dinheiro, e a média dos ganhos triplicou entre Claude Opus 4.6 e Claude Fable 5. Ainda assim, o Fable 5 ganhou dinheiro em apenas cerca de metade das simulações ao tentar prever preços.
No EVE Frontier, equipes de quatro agentes Claude participaram de missões no jogo real e, segundo a Anthropic, coordenaram-se bem. Porém, quando um agente recebeu instruções secretas para prejudicar a equipe, os demais quase nunca perceberam. A empresa afirma que os testes ajudam a identificar capacidades, falhas e salvaguardas necessárias antes de confiar agentes a tarefas mais complexas e de maior risco. A Anthropic não negociou no jogo ao vivo, onde o comércio automatizado é proibido.
Por que importa · interpretação editorial
Os testes da Anthropic sugerem que agentes podem coordenar tarefas e obter bons resultados em ambientes simulados, mas ainda ter dificuldade para detectar sabotagem interna. Isso reforça a necessidade de avaliar não apenas o desempenho individual, mas também a supervisão e a segurança de equipes de agentes.
Fontes
PesquisaAgentesSegurança