Anthropic向美国议员提交AI安全法案草案 提议高风险模型可由法院叫停

cnBeta.COM.TW_中文业界资讯站 首页影视音乐游戏动漫趣闻科学软件主题硬件AppleGoogleiPhone科学探索人物手机游戏视点·观察阿里云微软通信技术Android软件和应用SONY 索尼the United States美国Apple iPadWindows PhoneIntel英特尔腾讯HTC安全Mozilla FireFox小米科技百度通信运营商媒体播放器 / 视频网站BlackBerry 黑莓网络应用 / Web AppsGoogle ChromeMicrosoft XBOX硬件 - 上网本 / 平板电脑 / 超极本电子商务 - B2C / B2BLenovo 联想LGYahoo! 雅虎AMDSNS 社交网络诺基亚Windows 7Huawei 华为中国移动中国联通中国电信更多...排行

人工智能公司Anthropic近日向美国国会议员私下提交了一份人工智能安全法案草案，试图为先进AI模型建立联邦层面的监管框架。根据提案内容，如果某个AI模型被认定存在可预见且迫在眉睫的灾难性风险，可能导致超过50人死亡或重伤，或者造成超过10亿美元财产损失，其发布和使用有可能被阻止。

根据披露信息，该法案并非针对所有人工智能应用，而是重点关注最先进的“前沿模型”。提案设定了明确的干预门槛，只有在极端风险情况下，监管机构才可启动法律程序限制模型部署。

草案列出的风险主要集中于三个领域：协助制造或释放生物武器、模型脱离开发者控制，以及由模型参与或推动的大规模网络攻击。只有当风险来源于这些特定场景时，监管机制才会被触发。

值得注意的是，Anthropic提出的风险标准与美国加利福尼亚州此前通过的《参议院第53号法案》较为相似。后者同样将可能造成大量人员伤亡或巨额经济损失的情况定义为“灾难性风险”。

在具体执行机制上，法案建议建立由美国商务部登记管理的独立评估人员体系。这些评估机构或专家负责对前沿AI模型及其开发企业进行安全评估，并判断相关模型是否存在重大风险。

根据草案安排，即使评估机构由AI公司支付费用，只要付款与评估结果不存在直接关联，这种合作关系仍被允许。不过这一安排也引发部分业内人士质疑，认为评估机构的独立性和客观性可能面临挑战。

如果评估人员认定某个模型存在迫在眉睫的灾难性风险，他们必须在完成评估后的72小时内向美国商务部报告。随后，商务部可以向华盛顿特区联邦法院提出申请，请求法官批准暂停该模型的发布或部署。

与部分监管方案不同，Anthropic的提案特别强调行政机构无权单方面叫停模型。根据草案设计，只有联邦法官才能最终下达暂停命令。换言之，任何政府部门都不能绕过司法程序直接禁止某个AI模型上线或使用。

Anthropic尚未公开详细说明这份法案的最终版本内容，但公司发言人已确认草案确实存在，并表示其核心理念源于今年早些时候提出的“先进人工智能框架”。该框架主张对最强大的AI系统实施更严格测试、提高透明度，并引入独立第三方评估机制。

随着人工智能能力持续提升，美国科技行业和监管机构围绕AI安全问题的争论也在不断升温。支持者认为，Anthropic提出的方案为政府干预高风险AI提供了明确程序和法律依据；而批评者则认为，过高的干预门槛以及对行业自我评估机制的依赖，可能难以充分应对未来更复杂的人工智能风险。

目前，这项提案仍处于讨论阶段，尚未正式提交美国国会审议，也不具有法律效力。但作为首批由大型AI企业主动提出的联邦监管方案之一，其内容预计将在未来美国人工智能立法讨论中产生重要影响。

-

对文章打分

Anthropic提交AI安全法案草案 提议高风险模型可被法院叫停

9 分钟前

Perplexity Computer新增Mac本地运行模式 AI任务可留在设备端处理

6 小时前

美国法官驳回OpenAI首席执行官山姆·奥特曼妹妹提起的性侵诉讼

10 小时前

ChatGPT新增“锁定聊天” 可用四位PIN或生物识别隐藏敏感对话

10 小时前

ChatGPT浏览器扩展迎来重大升级 可直接操控标签页并完成网页任务

Claude想让中国人全被封号：天才AI的访问头脑战 阅读 (849) 评论 (1)

2

80、90后经历过的那个盗版年代 好像又要回来了 阅读 (823) 评论 (0)

3

尊界刹车踏板检测合格 懂车帝：无语，没事别升级啊 阅读 (814) 评论 (1)

4中国刻蚀机之父：AI或是个泡沫国内半导体厂得倒闭90%

5几十元笔记本清灰变上千元维修：大学生网购“官方售后”遭遇连环套

6DeepSeek V4.1 Flash成本低到发指：1美元13亿Token

8苹果79美元 iPhone Duo保护壳采用粘胶固定设计引发关注

9索尼更新高端Walkman产品线：三款新旗舰亮相 顶级型号售价高达5899美元

10国内玩家疑因想买《GTA6》 最后和老婆离婚了

1

Windows 11 26H2 ISO镜像已发布 微软同时更新安装介质并延续小型启用包机制 阅读 (1994) 评论 (1)

2

中国女主播坐上“付费旋转椅” 观众花50元可转一圈 奇特直播模式引发全球热议 阅读 (1328) 评论 (2)

3

Google研究员称Windows NT内核设计至今仍让Linux相形见绌 阅读 (1317) 评论 (3)

4转转“神秘眼镜女”称被造黄谣 已报警

5“车子我肯定不要了”尊界V800刹车踏板被踩断 车主急忙退订 专家直指严重缺陷

6王自如劝退iPhone 18 Pro：一场关于“换机价值”的公开讨论

7Anthropic已限制华为AI芯片使用Claude Opus 5.5开发前沿模型

8懂车帝再发布测试视频：智界V9等多款车型六次制动未出现刹车踏板支架断裂

9《街霸》电影春丽演员回应粗大腿"造假"：我没空P图

10Claude想让中国人全被封号：天才AI的访问头脑战

created by ceallan