Un informe de Anthropic alerta sobre los riesgos de GLM-5.3 y reaviva el debate sobre los modelos abiertos
🎧 Escucha esta noticia
En un informe publicado a finales de septiembre, Anthropic afirmó que GLM-5.3 representa un riesgo significativo para la ciberseguridad. Lanzado en agosto por la empresa china Z.ai, el modelo está disponible gratis para descargar y modificar, según MIT Technology Review Brasil.
El artículo presenta el caso como el episodio más reciente del debate sobre mantener los modelos avanzados bajo el control de sus desarrolladores o abrir sus pesos al público. Los modelos abiertos pueden ejecutarse en equipos propios, adaptarse, ser examinados por investigadores y utilizarse para crear sistemas derivados; un informe de Mozilla citado en el artículo sostiene que generalmente cuestan menos que los modelos cerrados. En cambio, especialistas en seguridad de la IA advierten que la apertura puede facilitar los usos maliciosos, mientras sus defensores sostienen que amplía el acceso y reduce la concentración de poder.
Por qué importa · interpretación editorial
El caso plantea de forma concreta el dilema entre permitir que investigadores y usuarios adapten y examinen modelos y reducir el riesgo de usos maliciosos. Como la evaluación de riesgo fue atribuida a Anthropic, el debate también depende de cómo distintos actores ponderan el acceso, el costo y el control.
Fuentes
Seguridad