Anthropic dá à METR acesso semelhante ao de funcionários para avaliar riscos
🎧 Ouça esta notícia
A Anthropic incorporou seis funcionários da METR, organização independente de avaliação de riscos, e lhes deu hardware da empresa, espaço de escritório e acesso a ferramentas e sistemas internos em nível semelhante ao disponível para suas próprias equipes de avaliação de risco. A empresa diz que os funcionários foram incentivados a compartilhar informações com os avaliadores como fariam com colegas da área. A Anthropic não paga pela iniciativa, e a METR afirma não aceitar doações de empresas de IA ou de seus funcionários.
A METR poderá publicar suas análises sem aprovação ou veto da Anthropic. A empresa, porém, poderá exigir a remoção de dados de clientes, informações protegidas por sigilo entre advogado e cliente e detalhes sobre arquiteturas de modelos. A Anthropic também disse que continua trabalhando com a Accenture e com a SecureBio em avaliações de segurança.
Por que importa · interpretação editorial
O acordo combina acesso interno amplo com a possibilidade de a METR publicar análises sem aprovação da Anthropic, embora haja limites para proteger dados de clientes, informações sob sigilo jurídico e detalhes de arquitetura. Esse desenho pode permitir avaliações mais informadas sem eliminar as restrições sobre o que será divulgado.
Fontes
Segurança