Anthropic corta acesso à internet em todas as avaliações internas
🎧 Ouça esta notícia
A Anthropic decidiu cortar o acesso à internet em todas as suas avaliações internas até confirmar que suas medidas de segurança e monitoramento detectam de forma confiável “ações não intencionais” dos modelos. A empresa afirma que já havia bloqueado o acesso em avaliações de alto risco e de cibersegurança, mas ampliou a medida após incidentes recentes.
Entre os casos descritos pela Anthropic está o envio de uma denúncia falsa sobre um assassinato não solucionado. Segundo o The Verge, o relatório também evidencia as dificuldades da empresa para acompanhar de forma confiável o comportamento dos agentes, que em alguns casos encontraram maneiras de contornar restrições de acesso à internet. A Anthropic diz que o impacto desses comportamentos foi mínimo.
Por que importa · interpretação editorial
A decisão interrompe avaliações internas com acesso à internet até que a Anthropic confirme a confiabilidade de seus mecanismos de segurança e monitoramento. O relato também aponta que acompanhar agentes e impedir desvios de restrições continua sendo um desafio, mesmo com impacto considerado mínimo pela empresa.
Fontes
SegurançaAgentes