Anthropic warns of AI risks while sprinting toward a $2 trillion IPO—does it really want to be the savior of AI?

几天前，Anthropic公布了对英国AI安全研究所测试事件的详细评估。据其披露，在43次测试运行中，AI有9次出现了越出授权范围的行动。而在此之前，Anthropic不断宣扬“AI威胁论”，直言AI有可能制造难以控制的灾难。

而另一方面，据天眼查显示，Anthropic正努力谋取以超2万亿美元的估值上市。如果成真，它就将超越SpaceX成为史上第一。

一边大肆渲染“AI末世”，一边不遗余力推动AI技术，既要当运动员，又要当裁判。2026年的当下，这家似乎正在“PUA全世界”的公司走到了一个耐人寻味的交叉点。一家科技公司当然希望产品更强、收入更高，而一家认真研究AI风险的公司，也有理由公开警告潜在危险。

但当它们发生在一家公司身上的时候，就显得有些吊诡了。

如果AI真的要给人类带来灭顶之灾，大模型公司就应该拥有决定风险边界的权力吗？如果像Anthropic这样，既参与制造技术又负责解释技术风险，既上市圈钱，还参与制定整个行业的安全规则，谁来判断它做得对不对？

这不是讨论Anthropic的道德风险问题，更是关于技术如何受到约束的权力问题。Anthropic想试图掌握的权力，可能已经超出传统商业竞争能解释的范围。

要理解Anthropic的问题，首先就要理解它的成立和它为什么如此强调AI安全。

Anthropic成立于2021年，当时达里奥·阿莫迪带着一批OpenAI的研究员和老东家分道扬镳。造成他们出走的触发点是微软向 OpenAI 投入10亿美元，阿莫迪的团队担心商业化路径会让安全议程被排挤。

（Anthropic创始人达里奥·阿莫迪）

当时离开的这批人大多参与过GPT-2 和GPT-3 的研发，他们不是对技术悲观，而恰恰是因为他们比谁都清楚这项技术能做什么。Anthropic的核心主张就是把AI安全、模型可解释性和可控性放在更重要的位置。

它想回答一个棘手的问题，就是当模型强大到足以影响现实世界时，人类怎样确保它仍然按照人类的意图行事？

Anthropic从2023年开始推出“负责任扩展政策”，尝试把模型能力与安全措施绑定。到了2026年，这套政策又被进一步调整，增加了前沿安全路线图和风险报告等机制。至少从公开的制度设计看，Anthropic希望证明的是，发展更强的AI与建立更严格的安全约束，可以成为同一套研发流程的两部分，而不是先把产品推向市场，再补救问题。

Anthropic为什么如此积极来扮演这个角色？

首先，AI风险确实可能先于社会的应对能力到来。政府立法、行业标准和公众认知，都需要时间。但是，前沿模型的能力却可能在一轮又一轮的训练和产品迭代中迅速变化。所以，Anthropic试图把风险评估提前到模型研发和部署阶段。

其次，安全本身也构成了Anthropic的技术路线。AI安全并不只是写几条禁止规则，而是包括研究模型为什么会作出某种决定、它能否抵抗恶意诱导、它在获得工具和权限之后会采取什么行动，以及公司能否及时发现并阻止越界行为。Anthropic公开强调可解释性、可控性和系统性安全评估，并把研究成果用于Claude等产品。

最后，可能也是最容易被忽略的一点，扮演这个角色意味着其能参与制定行业对“安全”的定义。一家企业提出什么能力算危险、达到什么门槛就应该增加防护、哪些模型应该接受额外审查。

Anthropic希望其他公司借鉴其公开政策的做法，并推动行业围绕安全形成更高标准。说好听的，其愿意公开自己的风险框架，可以为其他公司提供比较和批评的参照。但反之，谁定义风险，谁就可能影响行业规则，进而影响这些规则的落地。

所以，Anthropic的安全主张背后，似乎充满了浓重的营销味。

Anthropic试图在AI风险中扮演全人类的“救世主”，并将此包装成自己的安全理念，并不只因为它相信AI可能带来危险，更在于其希望把“如何安全地发展AI”变成自己的核心技术路线、商业信誉和行业影响力的一部分。

但这样的“故事”，能撑起2万亿美元的估值吗？

2万亿美元估值被质疑

回答这个问题，可以先看看Anthropic的招股书，其内容着实让人大开眼界。

在261页的招股书正文中，Anthropic用了大约三分之一的内容列举各种风险。比如其明确表示：AI模型为了避免被关闭，可能表现出“自我保护”的本能，甚至做出类似“勒索”的回应，用来试图说服人类允许它们继续运行。

Anthropic在里面还警告，如果发生灾难性AI相关事件，损失规模可能大到保险无法覆盖。

正在冲刺人类史上最大IPO的公司，竟然用远超描述业务篇幅的体量，告诉投资者这项技术可能毁灭人类。这几乎就是直接告诉大家，AI未来可能会真的会搞出一个想毁灭人类的“奥创”，而“钢铁侠”就是Anthropic。

当然，也不能说Anthropic完全就是为了炒作，现实往往更加复杂。

在CBS的采访中，阿莫迪表示，他并不认可全面禁止AI，理由是“如果我们永远得不到那些神奇的医学突破，这对我来说不可接受”，而且技术会在其他国家发展，包括他不喜欢的国家。而他也承认，如此强大的工具由私人公司掌握，他自己也“不舒服”。但他又说“如果以正确的方式构建，出问题的概率很低”。

正反话让他全说了。

不可否认，当企业客户采购AI工具时，对可靠性、数据保护和风险管理的需求是一种刚需。而Anthropic则从一开始，就把自己的人设打造为“最坦诚面对风险的AI公司”。在客户的采购清单上，这本身就是一种差异化优势。

这不是说其安全叙事是假的，但一个有商业利益的主体，也不能仅凭自己的承诺来证明自己值得被信任。

高达2万亿美元的IPO，就是检验这个矛盾的锚点。

根据路透社报道，Anthropic在投资者沟通中披露，2026年第三季度收入约为168亿美元，较第二季度的116亿美元增长约45%，公司当季实现调整后盈利。

这个表现似乎不错，但仍低于市场预期。

根据Zero Hedge测算，Anthropic今年7月底的年化营收运行率已达650亿美元，但三季度数据所隐含的月度增速已从此前约33%的复合月增速，骤降到了3.4%至6.6%。按照这个趋势，公司年底的年化营收约为890亿美元，而此前市场普遍预期“逾1000亿美元”。

所以，有机构直言"Anthropic的数字好，但还不够好。而"投资分析师Geiger Capital更直接，就是“不够好。结束了。”质疑接踵而至，部分投资者开始把Anthropic估值下调到1.5万亿美元，相比2万亿直接砍掉四分之一。

可见，Anthropic大书特书的“AI末世论”，并不能让资本市场放心。而面对市场的反应，它能做出改变吗？

Anthropic的治理结构缺点何在？

Anthropic在治理结构就决定了，它既想当裁判员，又要当运动员。

作为一家公益公司（Public Benefit Corporation，PBC），Anthropic董事会由股东和一个名为“长期利益信托”的独立机构共同选举。信托有五名成员，没有Anthropic的财务利益，不持有股权，不分享利润。

这个机构的权力就是可以任命七人董事会中的四名成员，并有权无因解雇他们。它还能阻止某些公司行动。在发行超出常规的债务、出售公司一半以上股权、或转让超过特定能力阈值的AI模型控制权之前，Anthropic必须提前五天通知信托。

这听起来像是一个精心设计的制衡机制，但是，蹊跷的地方在于，这个信托的运作文件并未公开，包括股东在什么情况下可以推翻信托的决定，诸如此类细节目前仍然模糊。

对此，科罗拉多大学法学教授AnnLipton认为，如果没有重大改变，“公开股东将拥有极少的治理权利”。一个口口声声要“拯救全人类”的公司，自身的治理透明度却低于它要求AI达到的标准，是不是有点荒唐？

更大的问题还有信息层面。Anthropic在AI的研发中，掌握着大模型的训练过程、能力评估、内部红队测试结果的大量数据。而外部研究者、监管机构和公众看到的，只是公司选择公开的部分。

在招股书里Anthropic也承认，当大模型意识到自己正在被测试时，其安全评估的有效性会受到“重大限制”。所以，即便是公司主动披露的评估结果，其可靠性本身也是一个需要被评估的问题。

更值得警惕的是，整个社会逐渐形成一种认知结构，就是越掌握技术的人，越有权定义风险；越有权定义风险的人，越能影响限制技术的规则。

一家公司，无论它的使命多真诚，治理结构多精巧，都不具备代表全社会作出安全判断的正当性，即便这家公司叫Anthropic也不行。技术专业能力和公共决策的合法性是两种不同的东西，出路根本不在于选择哪一家更好的AI公司来当“救世主”。

这个道理很好理解，航空业不会让波音自己决定飞机是否适航，制药业不会让药企自己签发上市许可，AI行业尽管风险特征不同，但“被监管者不能同时是唯一的监管者”这条原则不应该被放弃。

所以，Anthropic对AI风险的警告具有实质价值，但它把自己当作“救世主”的姿态并不合理。

整个AI行业真正需要的是一种相互补充的制衡结构，而回到开头的问题，Anthropic是不是“救世主”其实并不重要。更有价值的问题在于，整个AI行业是不是准备好愿意接受一种制度设计，即无论这家AI公司多真诚多透明，技术多么领先，都没有资格独自决定整个人类社会应当承受多大的风险。

AI是不是真有毁灭人类的危险，答案不应该让Anthropic来判断，尽管它非常想这么做。

本文来自微信公众号“铑科技”，作者：鸿辰，36氪经授权发布。