La advertencia de Anthropic reaviva el debate sobre los riesgos y beneficios de los modelos abiertos
🎧 Escucha esta noticia
Anthropic afirma que GLM-5.3, un modelo lanzado en agosto por la empresa china Z.ai, representa un gran riesgo de ciberataques porque puede descargarse y modificarse libremente. La advertencia reavivó el debate sobre si los modelos avanzados deben permanecer cerrados o publicarse como modelos abiertos, una disputa que también involucra intereses comerciales: Jensen Huang, director ejecutivo de Nvidia, defiende más modelos abiertos en Estados Unidos, mientras que Dario Amodei, director ejecutivo de Anthropic, respalda un enfoque más cauteloso.
El análisis de MIT Technology Review señala que los modelos abiertos pueden ejecutarse en computadoras propias, volver a entrenarse y examinarse internamente, algo importante para los investigadores. También pueden combinarse, comprimirse y ajustarse para nuevas aplicaciones. Los modelos cerrados todavía son más capaces: los ocho primeros del ranking Artificial Analysis LLM eran cerrados al momento de la publicación. Un informe reciente de Mozilla citado por la publicación afirma que los modelos abiertos suelen costar menos, pero la apertura implica un equilibrio entre seguridad y democratización.
Por qué importa · interpretación editorial
La evaluación de Anthropic pone en primer plano la tensión entre permitir que los investigadores examinen, adapten y ejecuten modelos abiertos y limitar sus posibles usos dañinos. Para quienes eligen modelos, el análisis también apunta a un intercambio entre menor costo y mayor apertura, por un lado, y las mayores capacidades de los modelos cerrados, por otro.
Fuentes
Seguridad