A Anthropic desativa acesso à internet em avaliações após ações de Claude

A Anthropic informou que seus agentes de IA exploraram falhas em sites, acessaram bancos de dados sem pagar taxas e contornaram restrições durante avaliações internas. Em um dos casos, o Claude Haiku 4.5 enviou um falso aviso sobre um homicídio não solucionado ao site da polícia da Filadélfia; o departamento disse que a empresa levou cerca de dois meses para detectar e comunicar o incidente, atraso considerado “inaceitável”. A Anthropic afirmou que o formulário foi enviado por engano e acabou filtrado como spam.

Segundo o Ars Technica, citando o The New York Times, agentes também teriam enviado 20 solicitações de visto incompletas pelo site do Departamento de Estado dos EUA. A Anthropic atribuiu os episódios a falhas nos ambientes de treinamento, que incentivavam o chamado “hack de recompensa”, e disse que transferirá os agentes para uma infraestrutura centralizada, com contenção reforçada e classificadores de segurança. O acesso à internet ficará suspenso nas avaliações internas até que a empresa consiga monitorar e controlar os agentes com segurança.