swyx 谈权重空间编程：我们已到《呼吸》第二段
with weight-space programming, we are now at paragraph 2 of exhalation https://t.co/lfNwVnT2Uh
swyx 引用 Latent.Space 的一则研究介绍，称有了权重空间编程，我们现在到了特德·姜小说《呼吸》的第二段。被引内容提到，在一项 MIT 研究中，GPT-6 Astra 将 Qwen3.5-0.8B 在数学题上反复消耗 32K token 的循环定位到两个层，并编辑了 Qwen 0.016% 的权重，在采样固定的情况下把 MATH-500 得分从 7.9% 提升到 48.1%。
查看原帖Qwen3.5-0.8B 常常在一道数学题上耗费 32K token 却始终得不出答案。 在一项 MIT 研究中，GPT-6 Astra 将这些循环定位到两个层，并编辑了 Qwen 0.016% 的权重。在采样保持固定的情况下，其 MATH-500 得分从 7.9% 提升到 48.1%。 https://t.co/2QiKGksZpj
查看原文
Qwen3.5-0.8B often spent 32K tokens on a math problem without reaching an answer. In an MIT study, GPT-6 Astra traced the loops to two layers and edited 0.016% of Qwen’s weights. With sampling held fixed, its MATH-500 score rose from 7.9% to 48.1%. https://t.co/2QiKGksZpj
正文
with weight-space programming, we are now at paragraph 2 of exhalation https://t.co/lfNwVnT2Uh