Investigadores del MIT dicen que GPT-6 Astra mejoró Qwen al editar el 0,016% de sus pesos
🎧 Escucha esta noticia
Investigadores del MIT CSAIL dicen haber usado GPT-6 Astra para editar directamente el 0,016% de los pesos de Qwen3.5-0.8B, sin volver a entrenarlo, con el objetivo de corregir determinados bucles de razonamiento matemático. Según Xataka, el rendimiento de Qwen en MATH-500 subió del 7,9% al 48,1%. El MIT llamó al enfoque Weight-Space Programming, o programación en el espacio de pesos.
El método podría ofrecer una forma más barata de mejorar modelos pequeños, pero el trabajo todavía es preliminar y no ha sido revisado por pares. Según Xataka, produjo una mejora casi nula en Gemma 3 270M, de Google, que sufría menos esos bucles, lo que sugiere que la técnica depende de que haya algo que eliminar. Los investigadores también apuntan a la posibilidad futura de que los modelos se apliquen mejoras a sí mismos, aunque eso todavía está lejos.
Por qué importa · interpretación editorial
El resultado sugiere que editar una fracción mínima de los pesos podría ser una alternativa al reentrenamiento para corregir fallas específicas en modelos pequeños, pero la evidencia sigue siendo preliminar y no ha sido revisada por pares. La mejora limitada en Gemma indica que su utilidad depende del tipo de problema presente en el modelo.
Fuentes
Investigación