MIT: GPT-6 Astra lee y edita redes neuronales

Investigadores del MIT CSAIL informan de que GPT-6 Astra editó el 0,016 % de los pesos de Qwen3.5-0.8B y elevó la puntuación del modelo en MATH-500 del 7,9 % al 48,1 %. La programación en el espacio de pesos es un método en el que un LLM de propósito general lee los pesos brutos de una red neuronal y los edita o escribe directamente a partir de un objetivo en lenguaje natural, sin descenso de gradiente ni bucle de entrenamiento. Rikiya Takehi, Jayden Teoh, Alex Zhang y Omar Khattab, del MIT CSAIL, introdujeron el término en una entrada de blog del 2 de noviembre de 2026.

Cuatro investigadores del MIT CSAIL describen lo que denominan Programación en el Espacio de Pesos: un LLM de frontera que inspecciona y edita los pesos brutos de una red sin entrenamiento por gradiente. Usaron GPT-6 Astra de OpenAI como editor y no le permitieron escribir bucles de entrenamiento ni usar descenso de gradiente, de modo que cada cambio provino del razonamiento del modelo sobre los números.

El resultado más llamativo involucró a un pequeño modelo de razonamiento abierto. Su mejor resultado corrigió el bucle en Qwen3.5-0.8B cambiando el 0,016 % de sus pesos, pero el mismo enfoque no mejoró un modelo que carecía de ese defecto. La puntuación de Qwen3.5-0.8B en GSM8K subió del 13,8 % al 67,1 %, y IFEval mejoró del 21,0 % al 62,3 %.

Los experimentos de lectura llegaron primero. El equipo entrenó cuatro políticas pequeñas en sus propias versiones de cuadrícula de Breakout, Pong, Pac-Man y Freeway, dando a cada una exactamente la misma arquitectura de 17.253 pesos, las mismas entradas y las mismas acciones. Esto demostró que los modelos de lenguaje de frontera ya pueden identificar qué hace una red analizando únicamente sus pesos.

Los investigadores creen que la Programación en el Espacio de Pesos podría cambiar cómo se optimizan y auditan las redes neuronales. La entrada es un informe de investigación en fase temprana más que un artículo revisado por pares, pero abre una nueva dirección para la automejora de la IA y la reparación rápida de modelos sin reentrenamiento.