先了解这件事
AI 综述
2025年12月19日,Redwood Research发布BashArena,一个面向高风险AI控制研究的新控制设置。该设置包含637个主任务和4个手工设计的侧任务,侧任务分别为下载恶意软件、窃取机密、提权和关闭防火墙。主任务平均需要约50轮工具调用,尚未被前沿模型饱和。使用GPT-4.1 mini进行监控,可在4%轨迹级假阳性率下达到74%安全性。其不足在于,移除互联网访问仅使性能从59%降至55%,却导致4个侧任务中的3个失效。
AI 根据公开报道生成
最新进展 · 正式报道
Redwood Research 发布 BashArena：高风险 AI 控制评测新设定事件进展
1 个已确认进展
- 来源：Redwood Research：Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
12月19日
Redwood Research：Blog一手
Redwood Research 发布 BashArena：高风险 AI 控制评测新设定
Redwood Research 发布 BashArena，一个面向高风险 AI 控制研究的新控制设定，包含 637 个主任务和 4 个手工设计的侧任务（下载恶意软件、窃取机密、提权、关闭防火墙）。主任务平均需约 50 轮工具调用，尚未被前沿模型饱和；用 GPT-4.1 mini 监控可在 4% 轨迹级 FPR 下达到 74% 安全性。其不足是移除互联网访问仅使性能从 59% 降至 55%，却让 4 个侧任务中的 3 个失效。