AI 热点

热点事件

Anthropic公布自动化红队测试系统Anvil

2 篇正式报道2 条事件动态更新于 11月13日 12:16

先了解这件事

AI 综述

Anthropic公布基于Claude构建的自动化红队测试系统Anvil,用于自主寻找模型安全防护中的漏洞,并在生物安全、网络安全和信息安全三个领域展开测试。在信息安全测试中,Anvil发送435次请求就找到首个实质性推理信息泄露漏洞,人工专家则需约10.22万次请求;在生物安全24组问题与分类器组合中,Anvil有23组发现的越狱方案严重程度高于人工测试人员。Anthropic同时指出,Anvil的攻击能力与底层Claude模型能力相关,且关闭攻击模型自身的安全防护是其取得有效突破的关键条件。

AI 根据公开报道生成

最新进展 · 正式报道

Anthropic 发布自动化红队系统 Anvil,信息安全测试仅用人类 1/235 的请求量找到漏洞

事件进展

1 个已确认进展

  1. Anthropic公布自动化红队测试系统Anvil

    来源:智东西

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月13日

  1. 智东西精选

    Anthropic 发布自动化红队系统 Anvil,信息安全测试仅用人类 1/235 的请求量找到漏洞

    Anthropic 公布基于 Claude 构建的自动化红队测试系统 Anvil,用于自主寻找模型安全防护中的漏洞,并在生物安全、网络安全和信息安全三个领域展开测试。在信息安全测试中,Anvil 发送 435 次请求就找到首个实质性推理信息泄露漏洞,人工专家则需约 10.22 万次请求;在生物安全 24 组问题与分类器组合中,Anvil 有 23 组发现的越狱方案严重程度高于人工测试人员。Anthropic 同时指出,Anvil 的攻击能力与底层 Claude 模型能力相关,且关闭攻击模型自身的安全防护是其取得有效突破的关键条件。

  2. 凤凰科技

    Anthropic发布自动化红队系统Anvil,信息安全测试仅用435次请求找到漏洞

    Anthropic公布基于Claude构建的自动化红队测试系统Anvil,在生物安全、网络安全和信息安全三个领域自主寻找模型安全防护漏洞。生物安全测试中,Anvil在24组问题与分类器组合里有23组发现的越狱方案严重程度高于人工测试人员;信息安全测试中,它发送435次请求就找到首个实质性推理信息泄露漏洞,人工专家约需10.22万次请求。Anthropic同时指出,Anvil的攻击能力与底层Claude模型能力正相关,若开启攻击模型自身的安全防护,97%的红队测试会话会被拦截。

本事件热度走势

当前
5
区间峰值
13 11月14日 04:00
近 24 小时变化
-50%

移动指针或点击图表可查看每小时热度;键盘可用左右方向键切换。

关联事件

  1. 相关事件Google DeepMind发布Gemini Robotics 2.5模型
  2. 相关事件Anthropic推出Claude Fable 5.2与Claude Mythos 5.2
  3. 相关事件OpenAI发布GPT-6.2 Astra与Sol,ARC Prize公布满分成绩
  4. 相关事件Mustafa Suleyman推出MAI Code 2与MAI Code 2 Flash