←事件详情

热点事件

Anthropic研究:改写思维链蒸馏不降低Claude 3.7性能

1 篇正式报道1 条事件动态更新于 10月13日 20:33

先了解这件事

AI 综述

Anthropic 于 2026 年 10 月发布研究,用 Claude 3.5 Sonnet 改写 Claude 3.7 Sonnet 早期检查点的 1 万条正确数学草稿,再将改写版蒸馏回基座模型。结果显示,其 MATH pass@1 准确率与用原始草稿微调的模型非常接近,说明模型在 MATH 上并未显著依赖草稿语法中的隐式推理。研究还发现,仅要求模型把思路分块而不做改写,就会让 MATH pass@1 下降 7%。该研究由 Anthropic Alignment Science Blog 发布,属第一方证据,目前尚无后续发展事实。

AI 根据公开报道生成

最新进展 · 正式报道

推理模型会像人类一样使用草稿纸吗?来自蒸馏改写草稿的证据

事件进展

1 个已确认进展

  1. Anthropic研究:改写思维链蒸馏不降低Claude 3.7性能

    来源:Anthropic Alignment Science Blog

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月13日

  1. Anthropic Alignment Science Blog一手

    推理模型会像人类一样使用草稿纸吗?来自蒸馏改写草稿的证据

    Anthropic 用 Claude 3.5 Sonnet 改写 Claude 3.7 Sonnet 早期检查点的 1 万条正确数学草稿,再把改写版蒸馏回基座模型,结果其 MATH pass@1 准确率与用原始草稿微调的模型非常接近,说明模型在 MATH 上并未显著依赖草稿语法中的隐式推理。研究还发现,仅要求模型把思路分块而不做改写,就会让 MATH pass@1 下降 7%。

关联事件

  1. 相关事件Anthropic 训练 Activation Oracles 解释 LLM 激活
  2. 相关事件Artificial Analysis 发布 AA-Robotics v0.1 研究预览
  3. 相关事件Nvidia发布Nemotron 3.5 Super VL与Bolt模型
  4. 相关事件Anthropic论文提出归纳头可能是上下文学习主要机制