Anthropic dá a seis pesquisadores da METR acesso interno no nível de funcionários
🎧 Ouça esta notícia
A Anthropic informou, em uma publicação no blog da empresa, que seis pesquisadores da METR terão acesso interno aproximadamente equivalente ao das equipes próprias de avaliação de riscos. O grupo poderá examinar modelos, práticas de segurança, incidentes e gestão de riscos da empresa, além de publicar avaliações independentes sem que a Anthropic possa impedir a publicação.
A empresa poderá exigir apenas censuras em categorias restritas, como dados de clientes, informações protegidas por sigilo advogado-cliente e detalhes sobre arquiteturas de modelos; a METR poderá criticar publicamente essas censuras. Segundo o TechCrunch, a METR é a primeira avaliadora no nível mais alto de um sistema de três categorias criado pela Anthropic. O acordo cumpre uma proposta feita pelo CEO Dario Amodei em setembro para inserir avaliadores externos em laboratórios de IA.
Por que importa · interpretação editorial
O acordo pode aumentar a independência das avaliações externas de segurança, ao permitir acesso amplo e publicação sem veto da Anthropic. Ao mesmo tempo, as exceções para redactions tornam a transparência efetiva dependente de como esses limites forem aplicados e contestados.
Fontes
Segurança