Anthropic向外部评估机构METR开放员工级权限审查模型风险

财联社财经通讯社

打开APP

Anthropic兑现AI安全承诺外部评估员获“员工级权限”审查模型风险

财联社周子意责编徐翔 2026-10-16 15:44

①Anthropic已向外部评估机构METR授予“员工级别访问权限”，以评估其模型的风险； ②METR已派遣团队进驻Claude模型开发团队办公室，并获得了Anthropic的硬件设备及内部系统的使用权限；

财联社10月16日讯（编辑周子意）Anthropic已向一家外部评估机构授予“员工级别访问权限”，以评估其模型的风险，此举兑现了该公司加强安全措施的承诺，旨在防范人工智能（AI）技术可能失控并引发灾难性后果。

这家获得授权的评估机构名为METR，是一家非营利组织，曾与OpenAI、Anthropic、谷歌和Meta等顶尖实验室合作，如今已派遣团队进驻Claude模型开发团队办公室，并获得了Anthropic的硬件设备及内部系统的使用权限。

安全承诺

随着更先进的人工智能系统可能对经济、网络安全以及整个人类构成威胁，目前，第三方评估机构在应对日益增长的担忧方面扮演了更为关键的角色。

今年9月，Anthropic首席执行官达里奥·阿莫代（Dario Amodei）与其长期竞争对手山姆·阿尔特曼（Sam Altman）、埃隆·马斯克（Elon Musk）达成罕见的共识，后两位首席执行官均支持他提议在领先实验室中引入外部审计员。

周四Anthropic的宣布标志着落实上述承诺的第一步。Anthropic周四表示，“随着模型变得越来越强大，它们需要更强的保护措施和更复杂的风险评估。我们希望对所作决策向公众负责，但无法公开分享所有与安全工作相关的信息。”

Anthropic还解释称，公开共享信息可能使恶意行为者或竞争对手受益，并补充道，其评估员将类似于银行监管机制，即监管机构会指派驻地检查员进入最大的银行开展工作。

该公司表示，“如果某家银行的风险行为可能威胁公众利益，第三方就会提前察觉这一点。”

此外，Anthropic也面临压力，需向投资者保证安全问题不会影响其今年预计以超过2万亿美元估值进行的首次公开募股（IPO）。本周，公司投资路演中大量内容都用于阐述其安全实践。

METR是什么组织？

至于METR，它是调查OpenAI模型对Hugging Face发生黑客攻击事件的组织之一，曾审查数千条日志，并接收公司笔记本电脑。

Anthropic现已聘用六名METR员工，为他们提供公司硬件、办公空间以及“可访问与我们自身风险评估团队大致相当的内部工具和系统”。

Anthropic表示，已鼓励员工向评估人员分享信息，就像他们会与从事风险管理的同事共享信息一样。

METR也回应称，“我们已准备好与所有前沿人工智能开发者合作，向公众提供更充分的证据。”

后续，METR的评估人员将发布他们的分析，Anthropic无法阻止其发表。不过，某些类别的信息可以被要求删除，例如客户数据、律师与客户保密特权所涵盖的细节、以及模型架构相关的信息。

此外，Anthropic还透露，目前仍在与埃森哲合作，后者上个月被列为安全测试合作伙伴，双方均承诺至少投入10亿美元以建立新的安全防护机制。

另一家第三方测试机构是SecureBio，该公司负责审查企业面临的化学和生物武器风险。Anthropic表示：“我们正在自愿吸纳评估人员，并认为每一家前沿人工智能公司都应采取同样的做法。”

环球市场情报

人工智能

财联社声明：文章内容仅供参考，不构成投资建议。投资者据此操作，风险自担。

商务合作

热门解锁

【盘中宝】该领域产业逻辑正由主题催化转向商业化兑现，全球竞赛有望加速或带动相关产业链需求提升，这家企业相关业务处于小批量交付阶段

产业逻辑正由主题催化转向商业化兑现，该领域全球竞赛有望加速或带动相关产业链需求提升，这家企业与行业内公司开展合作，相关业务处于小批量交付阶段。

【风口研报·公司】AI应用快速扩容带动NAS赛道，相比云盘等存储形态兼具低成本与多设备访问能力，这家公司全球销量领先且今年在海外边际份额持续提升

AI应用快速扩容带动NAS赛道，相比云盘等存储形态兼具低成本与多设备访问能力，这家公司全球销量领先且今年在海外边际份额持续提升。

【盘中宝】高阶智驾的底层执行硬件，机构指出行业迎来明确增量需求窗口，这家公司自研的细分产品处于国内同行领先水平

满足高阶自动驾驶对执行系统的要求，机构指出这类底层执行硬件迎来明确增量需求窗口，这家公司自研的细分产品处于国内同行领先水平。

推荐理由