←新闻详情

Vaibhav Srivastav更新于 11月3日 05:26

研究称 GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重提升数学能力

GPT-6 Astra:

AI 导读

Rikiya Takehi 称其团队让 GPT-6 Astra 直接改写 Qwen3.5-0.8B 的权重以提升数学能力,仅改动 0.016% 的权重,就在不依赖梯度或训练的情况下修复了该模型的推理循环,数学能力最高提升 6 倍、指令遵循提升 3 倍。团队将这一做法称为 Weight-Space Programming,认为前沿 LLM 已能原生读写神经网络权重。Vaibhav Srivastav 转发了这条内容,并附上原文标题 GPT-6 Astra。

推荐理由

AI 评分 75

这条转述介绍了一种不靠梯度或训练、直接改写模型权重来提升数学推理的方法,可了解权重空间编程的思路。

主题

标签

引用

Rikiya Takehi

@rikiyatakehi

我们让 GPT-6 Astra 编辑 Qwen3.5-0.8B 的权重以提升数学能力。 它仅直接改动了 0.016% 的权重,就修复了 0.8B 的推理循环,数学能力最高提升 6 倍,指令遵循能力甚至提升 3 倍,且无需梯度或训练。 我们将这一方法称为 Weight-Space Programming:前沿 LLM 现在能够原生读写神经网络权重!🧵 博客:https://t.co/bOWCcFhCVq

查看原文

We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: https://t.co/bOWCcFhCVq

查看原帖

正文 · AI 翻译

GPT-6 Astra:

来源

Vaibhav Srivastav