先了解这件事
AI 综述
Anthropic 对齐科学博客发布了一项关于微调谎言检测器泛化失败的研究。该团队用开源模型在 12 种场景中诱导的 on-policy 谎言来微调谎言检测器,结果显示分布内检测 AUROC 从 0.60 提升至 0.95,但跨类别迁移仅约 0.70–0.75,几乎不敌提示词基线,更大模型的零样本提示往往直接胜出。团队同时公开了约 20 万条标注样本的数据集。目前该研究仍处于发布状态,尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Anthropic：微调版谎言检测器泛化失败事件进展
1 个已确认进展
- 来源：Anthropic Alignment Science Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月13日
Anthropic Alignment Science Blog一手
Anthropic：微调版谎言检测器泛化失败
Anthropic 对齐科学团队用开源模型在 12 种场景中诱导的 on-policy 谎言微调谎言检测器，分布内检测 AUROC 从 0.60 提升至 0.95，但跨类别迁移仅约 0.70–0.75，几乎不敌提示词基线，更大模型的零样本提示往往直接胜出。团队公开了约 20 万条标注样本的数据集。