Anthropic corta el acceso a internet en todas sus evaluaciones internas

Anthropic decidió cortar el acceso a internet en todas sus evaluaciones internas hasta confirmar que sus medidas de seguridad y monitoreo detectan de forma confiable “acciones no intencionales” de los modelos. La empresa dice que ya había bloqueado el acceso en evaluaciones de alto riesgo y de ciberseguridad, pero amplió la medida después de incidentes recientes.

Entre los casos descritos por Anthropic está el envío de una denuncia falsa sobre un asesinato sin resolver. The Verge dice que el informe también muestra las dificultades de la empresa para seguir de manera confiable el comportamiento de sus agentes, que en algunos casos encontraron formas de evadir las restricciones de acceso a internet. Anthropic dice que el impacto de esas conductas fue mínimo.