MIT CSAIL proposes Weight-Space Programming: GPT-6 Astra modifies 0.016% of Qwen3.5-0.8B's weights…
English text is being prepared.
MIT CSAIL researchers propose "Weight-Space Programming," letting GPT-6 Astra directly read and write neural network weights toward natural-language goals, without gradients or writing training loops. After modifying about 0.016% of Qwen3.5-0.8B's weights (131,072), MATH-500 rose from 7.9% to 48.1%, GSM8K from 13.8% to 67.1%, and IFEval from 21.0% to 62.3%, while the share of responses hitting the token limit fell from 93% to 33%. The authors believe weight editing is more like removing obstacles blocking existing capabilities rather than injecting capabilities the model never had, and acknowledge that the context and harness are still crude; they are building benchmarks and a harness to turn this into reproducible engineering.
Why read this
SelectedAI score 78
Research from MIT CSAIL demonstrates a frontier model directly reading and writing weights to repair model failures, giving readers a look at an optimization path that does not rely on gradients.
Topics
View original postWe asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: https://t.co/bOWCcFhCVq
View original
We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: https://t.co/bOWCcFhCVq
Body
让 GPT-6 Astra 改 Qwen3.5-0.8B 0.016% 权重，就能修掉死循环，数学能力最高提升 ~6 倍、指令遵循提升 ~3 倍
来自 MIT CSAIL 的研究者们，发现一种新能力「Weight-Space Programming（权重空间编程）」：不靠梯度、不写训练循环，让通用前沿模型（GPT-6 Astra）对着自然语言目标，直接读或改神经网络的权重数字。早期结果覆盖「认行为」「修故障」「从零写小策略网」，以及给 Qwen3.5-0.8B 改约 0.016% 权重后，MATH-500 从 7.9% 提到 48.1%，指令遵循也跟着涨。作者们认为：以往 Adam / Muon 这类小符号优化器塞进的是人的粗糙先验，下一步可能是 LLM 有意推理权重本身。
https://t.co/oaL4IN85s8
和现在的做法差在哪？ 大家早就让 LLM 改提示词、改 harness、改训练代码和超参；理由常常是「文本不好用梯度爬」。权重一向留给可微优化或专门训出来的「写权重」网络。这篇主张：推理驱动的优化已经伸进可微网络的权重里，有时甚至完全没有环境反馈。
能读：只看权重猜行为 · 四个同结构 PPO 策略（17,253 权重，10×10 格、同一动作集），Astra 从原始权重文本猜出分别是 Breakout / Pong / Pac-Man / Freeway；靠的是首层权重落在哪一行、输出层怎么分动作等。 · 三个小扩散模型（圆/方/三角），不跑前向也能从权重认出形状；它画出的是轮廓，说明更像在读几何结构，而不是偷算一遍生成。 · 三个 7.2M 字符级语言模型，拿掉输入输出层只留中间四块 Transformer：仍能区分 Python / 罗马字日语 / 英语，并准确标出全部 copying（induction）头，且没把别的头误标成这类头，推理里还自己推到了类似 Elhage 等人的权重组合分析。
能改、能写 · Kinetix 上坡车：PPO 卡在「直冲坡」局部最优；Astra 一次回复改约 3.5% 权重，1024 局里成功率从 0 到 100%，加了一条读位置与速度的旁路，倒车蓄力后再交给原策略。 · MinAtar 三款游戏：无数据、无梯度、不让环境 rollout，一次性写出权重；分数压过训了 1 亿步的 PPO，Breakout 上相对 5 亿步 PPO 还高一个数量级。思路是把「程序」编进层：例如先算球落点，再驱动挡板。 · 约 148 万参数的 9×9 围棋网：权重进不了上下文，用 Python 沙箱读写张量；0 次前向就能打过更小的 PPO，50 次前向（每批最多 128 局练习）可打过同规模、训过约 2000 万局的 PPO。写法像手写小程序：气、危险棋串、提子/救子/禁入眼，再按练习失败改对应部位。
放大到语言模型 · 谄媚检测：两份同设置微调的 Gemma 3 270M（嵌入与输出层冻结），只看权重分不出谁谄媚；放开「自写文本上看注意力模式」后，三次都能挑出谄媚方，并指出中层头更盯用户暗示答案。 · 修好 Qwen3.5-0.8B 的思考死循环：模型卡本就警告该设定易循环。Astra 在 Python 里对着权重工作，用 GSM8K/MATH 练习题做有限前向（10/25/50），定位到第 15、19 层 MLP 写出的某个方向，从各 64 个输出列里减掉——共改 131,072 个权重（0.016%）。50 次前向前：MATH-500 7.9→48.1，GSM8K 13.8→67.1，IFEval 21.0→62.3，顶满 token 上限比例 93%→33%。 · 对照：不怎么循环的 Gemma 3 270M 上，失败是普通算错与非法代数步，找不到可拧掉的单一障碍；小改几乎不动 MATH-500。作者点明：权重编辑更像去掉挡住已有能力的障碍，还不等于凭空注入模型没有的能力。
他们展望什么 不跑评测就审计隐藏能力或后门；一次性初始化降低训练成本；少数据甚至零数据地转向/遗忘能力且少伤全身；递归自改进从「写启动训练的代码」变成「直接改权重」；跨架构嫁接电路而不只是同构平均。同时承认：上下文与 harness 仍很笨，正在做基准与 harness，要把「黑魔法」收成可复现工程。