先了解这件事
AI 综述
2026年5月29日,Redwood Research 发布关于提升模型生物对无目标训练鲁棒性的研究建议。该研究指出,用常见方法构建的模型生物体在无目标训练下往往很脆弱,例如“让模型像海盗一样说话”这类简单 SFT 就能让 Hubinger、Greenblatt、Ryd 等先前工作的复现停止异常行为。研究给出的建议是:避免提示词型模型生物体,优先采用更高秩的 LoRA 和全权重微调(FWFT);同时指出密码锁定模型生物体在训练数据含密码比例更高时鲁棒性更差。
AI 根据公开报道生成
最新进展 · 正式报道
Redwood Research：如何让模型生物体对训练更鲁棒事件进展
1 个已确认进展
- 来源：Redwood Research：Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
5月29日
Redwood Research：Blog一手
Redwood Research：如何让模型生物体对训练更鲁棒
Redwood Research 发现，用常见方法构建的模型生物体在无目标训练下往往很脆弱，例如“让模型像海盗一样说话”这类简单 SFT 就能让 Hubinger、Greenblatt、Ryd 等先前工作的复现停止异常行为。研究给出的建议是：避免提示词型模型生物体，优先用更高秩的 LoRA 和全权重微调（FWFT），并指出密码锁定模型生物体在训练数据含密码比例更高时鲁棒性更差。