Anthropic anuncia acceso interno similar al de empleados para evaluadores de METR

Anthropic anunció que comenzó a dar a seis empleados de METR un acceso similar al de su propio personal, incluido hardware de la empresa, espacio de oficina y herramientas y sistemas internos usados por sus equipos de evaluación de riesgos. La organización sin fines de lucro podrá examinar los modelos, las salvaguardas y las prácticas de Anthropic, y publicar análisis sobre niveles de riesgo, incidentes o procesos. Anthropic dice que no podrá vetar las publicaciones, pero sí exigir que se redacten categorías limitadas de información, como datos de clientes, información protegida por el secreto profesional entre abogado y cliente y datos sobre arquitecturas de modelos; METR podrá cuestionar públicamente esas redacciones sin revelar el contenido oculto.

Anthropic dice que también trabaja con SecureBio y Accenture como evaluadores y que mantiene conversaciones iniciales con otras organizaciones, incluida Hugging Face. La empresa afirma que el acceso ampliado busca permitir evaluaciones independientes más profundas sin exponer información sensible o material que podría ser útil para actores maliciosos.