· MIT CSAIL Blog
MIT:GPT-6 Astra 能读取并编辑神经网络
图片: Sandip Kalal 来自 Unsplash
麻省理工学院计算机科学与人工智能实验室(MIT CSAIL)的研究人员报告称,GPT-6 Astra 编辑了 Qwen3.5-0.8B 权重中的 0.016%,将该模型的 MATH-500 得分从 7.9% 提升至 48.1%。权重空间编程是一种方法,通用大语言模型在该方法中读取神经网络的原始权重,并直接根据自然语言目标编辑或写入这些权重,无需梯度下降或训练循环。MIT CSAIL 的 Rikiya Takehi、Jayden Teoh、Alex Zhang 和 Omar Khattab 在一篇发布于 2026 年 11 月 2 日的博客文章中提出了这一术语。
四名 MIT CSAIL 的研究人员描述了他们所称的“权重空间编程”:一种前沿大语言模型在无需梯度训练的情况下检查并编辑网络原始权重的方法。他们以 OpenAI 的 GPT-6 Astra 作为编辑者,并且不允许它编写训练循环或使用梯度下降,因此每一处改动都来自模型对数字的推理。
最引人注目的结果涉及一个小型开源推理模型。他们最好的结果是通过改变 Qwen3.5-0.8B 中 0.016% 的权重,修复了该模型的循环问题,但同样的方法并未改善一个不存在这一缺陷的模型。Qwen3.5-0.8B 的 GSM8K 基准得分从 13.8% 升至 67.1%,IFEval 则从 21.0% 提升至 62.3%。
读取实验是最先进行的。团队在自行搭建的网格版《Breakout》《Pong》《吃豆人》和《Freeway》上训练了四个小型策略,每个策略都拥有完全相同的 17,253 个权重架构、输入和动作。这证明前沿语言模型如今仅通过分析权重,就能识别出一个网络在做什么。
研究人员认为,权重空间编程可能改变神经网络的优化与审计方式。该博客文章属于早期阶段的研究报告,而非经过同行评审的论文,但它为 AI 自我改进以及无需重新训练即可快速修复模型开辟了一个新方向。
来源与版权
原始来源: MIT CSAIL Blog