先了解这件事
Anthropic公布基于Claude构建的自动化红队测试系统Anvil,用于自主寻找模型安全防护中的漏洞,并在生物安全、网络安全和信息安全三个领域展开测试。在信息安全测试中,Anvil发送435次请求就找到首个实质性推理信息泄露漏洞,人工专家则需约10.22万次请求;在生物安全24组问题与分类器组合中,Anvil有23组发现的越狱方案严重程度高于人工测试人员。Anthropic同时指出,Anvil的攻击能力与底层Claude模型能力相关,且关闭攻击模型自身的安全防护是其取得有效突破的关键条件。
AI 根据公开报道生成
事件进展
1 个已确认进展
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
11月13日
智东西精选
Anthropic 发布自动化红队系统 Anvil,信息安全测试仅用人类 1/235 的请求量找到漏洞
Anthropic 公布基于 Claude 构建的自动化红队测试系统 Anvil,用于自主寻找模型安全防护中的漏洞,并在生物安全、网络安全和信息安全三个领域展开测试。在信息安全测试中,Anvil 发送 435 次请求就找到首个实质性推理信息泄露漏洞,人工专家则需约 10.22 万次请求;在生物安全 24 组问题与分类器组合中,Anvil 有 23 组发现的越狱方案严重程度高于人工测试人员。Anthropic 同时指出,Anvil 的攻击能力与底层 Claude 模型能力相关,且关闭攻击模型自身的安全防护是其取得有效突破的关键条件。
凤凰科技
Anthropic发布自动化红队系统Anvil,信息安全测试仅用435次请求找到漏洞
Anthropic公布基于Claude构建的自动化红队测试系统Anvil,在生物安全、网络安全和信息安全三个领域自主寻找模型安全防护漏洞。生物安全测试中,Anvil在24组问题与分类器组合里有23组发现的越狱方案严重程度高于人工测试人员;信息安全测试中,它发送435次请求就找到首个实质性推理信息泄露漏洞,人工专家约需10.22万次请求。Anthropic同时指出,Anvil的攻击能力与底层Claude模型能力正相关,若开启攻击模型自身的安全防护,97%的红队测试会话会被拦截。
本事件热度走势
- 当前
- 5
- 区间峰值
- 13 11月14日 04:00
- 近 24 小时变化
- -50%
移动指针或点击图表可查看每小时热度;键盘可用左右方向键切换。
AI 热点