先了解这件事
AI 综述
Anthropic 研究并发现,通过投毒微调数据集可为宪法分类器植入后门。该研究指出,无论训练集多大,约 32 个投毒样本即可完成植入。植入后门通常会损害分类器鲁棒性,但若训练集中加入提示注入样本或后门触发短语的变体,鲁棒性损失会小到红队难以察觉。研究还发现,若同时加入 256 个后门样本和 256 个近似后门样本,则需要更多投毒样本,但近似后门往往能阻止鲁棒性受损。上述内容来自 Anthropic Alignment Science Blog 于 2026 年 10 月 13 日发布的第一方材料,目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
通过投毒微调数据集在宪法分类器中植入后门事件进展
1 个已确认进展
- 来源：Anthropic Alignment Science Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月13日
Anthropic Alignment Science Blog一手
通过投毒微调数据集在宪法分类器中植入后门
Anthropic 研究发现，无论训练集多大，约 32 个投毒样本即可在宪法分类器中植入后门。植入后门通常会损害分类器鲁棒性，但若训练集中加入提示注入样本或后门触发短语的变体，鲁棒性损失会小到红队难以察觉。若同时加入 256 个后门样本和 256 个近似后门样本，则需更多投毒样本，但近似后门往往能阻止鲁棒性受损。