←事件详情

热点事件

Anthropic向METR授予员工级访问权限评估模型风险

3 篇正式报道1 条相关讨论4 条事件动态更新于 10月17日 10:38

先了解这件事

AI 综述

2026年10月16日,Anthropic宣布向非营利评估机构METR授予员工级别访问权限,供其审查自家AI模型与安全实践。据The Decoder报道,六名METR员工获得公司硬件、办公空间和内部工具访问权,Anthropic称其权限大致与自家风险团队相当,但客户数据、受律师-客户保密特权保护的信息和模型架构细节仍不开放。财联社同日报道称,METR团队进驻Claude模型开发团队办公室,评估人员将发布分析结果,Anthropic无法阻止其发表,但可要求删除客户数据、律师与客户保密特权细节及模型架构相关信息。Anthropic称此举类似银行监管中的驻地检查员机制,并透露仍在与埃森哲、SecureBio合作开展安全测试。METR将独立发布结论,Anthropic可在预设类别内要求删改,METR可公开评价这些删改是否合理。该权限高于SecureBio、Accenture和Faculty此前获得的水平,Anthropic也已与Hugging Face开始初步商谈。

AI 根据公开报道生成

最新进展 · 正式报道

Anthropic私下向美国议员介绍前沿AI监管法案草案

事件进展

1 个已确认进展

  1. Anthropic向METR授予员工级访问权限评估模型风险

    来源:The Decoder

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月17日

  1. 财联社

    Anthropic私下向美国议员介绍前沿AI监管法案草案

    Anthropic代表私下向美国国会议员介绍了一份前沿AI安全监管法案草案,公司发言人称该草案体现了其在《高级人工智能框架》中的建议,自今年6月以来一直在推动联邦和州层面立法者采纳。草案规定,只有当模型存在可预见且迫在眉睫的风险,可能造成超过10亿美元损失或导致50人以上死亡或严重受伤时,政府才可阻止其发布或使用,风险须来自生物武器、规避开发者控制措施或网络攻击。草案还要求前沿AI实验室制定安全框架、发布透明度报告、建立举报人保护机制,并向美国商务部报告重大安全事件。

10月16日

  1. The Decoder

    Anthropic 向 METR 开放内部权限审查其模型与安全实践

    Anthropic 宣布向非营利机构 METR 的团队开放内部权限,供其审查自家 AI 模型与安全实践。六名 METR 员工获得公司硬件、办公空间和内部工具访问权,Anthropic 称其权限大致与自家风险团队相当,但客户数据、受律师-客户保密特权保护的信息和模型架构细节仍不开放。METR 将独立发布结论,Anthropic 可在预设类别内要求删改,METR 可公开评价这些删改是否合理。该权限高于 SecureBio、Accenture 和 Faculty 此前获得的水平,Anthropic 也已与 Hugging Face 开始初步商谈。

  2. 财联社

    Anthropic向外部评估机构METR开放员工级权限审查模型风险

    Anthropic已向非营利评估机构METR授予员工级别访问权限,METR团队进驻Claude模型开发团队办公室,并获得Anthropic硬件设备及内部系统使用权限。Anthropic已聘用六名METR员工,为其提供与自身风险评估团队大致相当的内部工具和系统,评估人员将发布分析结果,Anthropic无法阻止其发表,但可要求删除客户数据、律师与客户保密特权细节及模型架构相关信息。Anthropic称此举类似银行监管中的驻地检查员机制,并透露仍在与埃森哲、SecureBio合作开展安全测试。

  3. 财联社相关讨论

    财联社 参与了这场讨论

    原帖参与热度计算,不等同于正式报道或已确认事实。

本事件热度走势

当前
6
区间峰值
18 10月16日 23:00
近 24 小时变化
-50%

移动指针或点击图表可查看每小时热度;键盘可用左右方向键切换。

关联事件

  1. 相关事件Mistral在Hugging Face发布Large 4权重
  2. 相关事件Meta 推出 Muse Wonder 与 Muse Wonder Full 模型
  3. 相关事件Anthropic在上市前向投资者推介并披露营收增长
  4. 相关事件外交部回应美方要求停用DeepSeek