Anthropic da a seis investigadores de METR acceso interno a nivel de empleados
🎧 Escucha esta noticia
Anthropic dijo en una publicación de su blog que seis investigadores de METR recibirán un acceso interno aproximadamente equivalente al de sus propios equipos de evaluación de riesgos. El grupo podrá examinar los modelos, las prácticas de seguridad, los incidentes y la gestión de riesgos de la empresa, además de publicar evaluaciones independientes sin que Anthropic pueda impedirlo.
La empresa solo podrá exigir censuras en categorías limitadas, como datos de clientes, información protegida por el secreto profesional entre abogados y clientes, y detalles sobre las arquitecturas de los modelos; METR podrá criticar públicamente esas censuras. Según TechCrunch, METR es el primer evaluador del nivel más alto de un sistema de tres categorías que Anthropic está construyendo. El acuerdo cumple una propuesta que el director ejecutivo Dario Amodei hizo en septiembre para integrar evaluadores externos en laboratorios de IA.
Por qué importa · interpretación editorial
El acuerdo podría aumentar la independencia de las evaluaciones externas de seguridad al permitir un acceso amplio y publicar sin el veto de Anthropic. Al mismo tiempo, las excepciones para las redacciones hacen que la transparencia efectiva dependa de cómo se apliquen y cuestionen esos límites.
Fuentes
Seguridad