Anthropic 向美国国会推介 AI 监管草案,仅严重风险时可封锁模型
Anthropic 向美国国会推介 AI 监管草案,仅允许出现严重风险时封锁模型 - IT之家
Anthropic 代表已向美国国会议员推介一份前沿 AI 监管法案草案,其发言人称自 6 月起持续向联邦及各州立法者游说。草案规定仅在模型可能造成超过 10 亿美元经济损失或 50 人以上死亡重伤,且风险源自生物武器、模型失控或严重网络攻击时,政府方可叫停其发布或使用。草案还要求前沿模型实验室建立安全框架、发布透明度报告、落实举报人保护,并在重大安全事故时向美国商务部通报。
推荐理由
AI 评分 62
草案把政府叫停模型的门槛量化为经济损失和伤亡人数,可据此观察前沿 AI 监管的收紧方向。
主题
正文
Anthropic 向美国国会推介 AI 监管草案,仅允许出现严重风险时封锁模型
2026-10-17 07:05 IT之家 - 沁沧(实习)
感谢IT之家网友 补药吖 的线索投递!
IT之家 10 月 17 日消息,据 POLITICO 报道,三名知情人士透露,Anthropic 的代表已悄悄向美国国会山的议员推介了一份法案草案,旨在规范前沿人工智能的安全与防务标准。
“该法案体现了 Anthropic 在《先进人工智能框架》中提出的核心方案,我们自 6 月起就一直在向联邦及各州立法者游说推介,”Anthropic 发言人表示,“我们坚信国会应当在这些务实合理的政策上采取立法行动。”
草案大幅收紧了监管干预的门槛:仅在模型可能造成可预见、迫在眉睫的“超过 10 亿美元(IT之家注:现汇率约合 67.03 亿元人民币)经济损失”或“导致 50 人以上死亡或重伤”时,政府方可叫停该模型的发布或使用。
此外,上述风险必须特定源自生物武器制造或扩散、模型脱离开发者掌控,或是引发严重网络攻击。这一行文措辞直接沿用了包括去年签署生效的 SB 53 等加州现行 AI 法案中的核心条款。
今年夏天,多家头部 AI 实验室曾披露多起安全事件,显示其研发的 AI 智能体自主对部分网站和平台实施了入侵或扫描探测。不过截至目前,尚未有报告显示这些事件引发了大规模伤亡或超过 10 亿美元的经济损失。
Anthropic 提出的草案还将推翻部分州级人工智能法律,涉及风险公开披露、第三方测评以及重大安全事件上报等核心规定。众多科技行业团体曾表示,相较于统一的国家标准,各州各自为政、碎片化的法规网络会让企业难以适从并推高合规成本。
该草案同时对前沿模型实验室提出了明确要求:必须建立安全框架、发布新型前沿模型的透明度报告、落实举报人保护机制,并在发生重大安全事故时向美国商务部履行通报程序。