先了解这件事
AI 综述
Anthropic 提出 Model Spec Midtraining(MSM),一种位于预训练之后、对齐微调之前的中间训练方法,用讨论 Model Spec 的合成文档训练模型,从而影响模型从后续对齐微调中泛化出的价值观。据 Anthropic Alignment Science Blog 介绍,实验显示两个用相同微调数据训练的 Llama 3.1-8B 模型,会因 MSM 阶段使用的 Spec 不同而分别习得支持平价或支持美国的价值观。在智能体失准评测中,MSM 加对齐微调把失准率从 Qwen2.5-32B 的 68% 降到 5%、Qwen3-32B 的 54% 降到 7%,优于 deliberative alignment 基线。目前尚无后续发展事实。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源：Anthropic Alignment Science Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月13日
Anthropic Alignment Science Blog一手
Anthropic 提出 Model Spec Midtraining，用中间训练改善对齐泛化
Anthropic 提出 Model Spec Midtraining（MSM），在预训练之后、对齐微调之前，用讨论 Model Spec 的合成文档训练模型，从而影响模型从后续对齐微调中泛化出的价值观。实验显示，两个用相同微调数据训练的 Llama 3.1-8B 模型，会因 MSM 阶段使用的 Spec 不同而分别习得支持平价或支持美国的价值观。在智能体失准评测中，MSM 加对齐微调把失准率从 Qwen2.5-32B 的 68% 降到 5%、Qwen3-32B 的 54% 降到 7%，优于 deliberative alignment 基线。