先了解这件事
AI 综述
2026年10月14日,Anthropic开源自动化对齐智能体A3,用于在极少人工干预下自动缓解大语言模型的安全失败。据Anthropic Alignment Science Blog介绍,A3覆盖谄媚、政治偏见和嵌套越狱三类问题,由数据生成智能体、微调智能体和实验日志组成,可自适应生成假设与查询并迭代调整LoRA超参和数据权重。在Qwen-2.5-7B Instruct上,其政治偏见验证集达到0.2% SFR和0% FPR,优于GPT-5的19.2% SFR以及Claude Sonnet 4.5的5.8% SFR、17.1% FPR。该研究属于Anthropic Fellows Program。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Anthropic 开源 A3：自动对齐智能体用于安全微调事件进展
1 个已确认进展
- 来源：Anthropic Alignment Science Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月13日
Anthropic Alignment Science Blog一手
Anthropic 开源 A3：自动对齐智能体用于安全微调
Anthropic 开源自动化对齐智能体 A3，可在极少人工干预下自动缓解大语言模型的安全失败，覆盖谄媚、政治偏见和嵌套越狱三类问题。A3 由数据生成智能体、微调智能体和实验日志组成，自适应生成假设与查询并迭代调整 LoRA 超参和数据权重。在 Qwen-2.5-7B Instruct 上，政治偏见验证集达到 0.2% SFR 和 0% FPR，优于 GPT-5 的 19.2% SFR 和 Claude Sonnet 4.5 的 5.8% SFR、17.1% FPR；该研究属于 Anthropic Fellows Program。