Anthropic anuncia acesso interno de nível similar ao de funcionários para a METR

A Anthropic anunciou que começou a dar a seis funcionários da METR acesso semelhante ao de funcionários da empresa, incluindo hardware, espaço de trabalho e ferramentas e sistemas internos usados pelas equipes de avaliação de riscos. A organização sem fins lucrativos poderá examinar modelos, salvaguardas e práticas da Anthropic e publicar suas análises sobre níveis de risco, incidentes ou processos. A empresa afirma que não poderá vetar as publicações, mas poderá exigir redações em categorias restritas, como dados de clientes, informações protegidas por sigilo entre advogado e cliente e dados sobre arquiteturas de modelos; a METR poderá contestar publicamente essas redações sem revelar o conteúdo ocultado.

A Anthropic diz que também trabalha com a SecureBio e a Accenture como avaliadoras e mantém conversas iniciais com outras organizações, incluindo a Hugging Face. Segundo a empresa, o acesso ampliado busca permitir avaliações independentes mais profundas sem expor informações sensíveis ou úteis a agentes mal-intencionados.