←News detail

Phoenix TechnologyUpdated Oct 25 00:15

Anthropic CEO Dario Responds to Safety Concerns in a Long Post, Reveals High-End Model Was Held Back for Four Months

English text is being prepared.

AI summary

Anthropic CEO Dario posted a long message on X responding to questions from AI safety investigator Nathan Calvin, disclosing for the first time that the company had already trained a high-end model at the Mythos level as early as February this year. Because its cybersecurity defense mechanisms were not yet complete, it was released only to a very small number of partners, and was not opened to the public until the safety guardrails were in place in June—about four months in total. He also listed the costs the company has proactively borne for safety, including a large number of false positives caused by biological risk filtering, pushing for legislation such as California SB 53, and a plan to commit 5% of the company's shares to a public interest fund. Dario said this approach amounts to competing toward a higher standard, while Calvin questioned how much more the company can concede in the race for the sake of safety.

Why read this

AI score 64

Dario publicly responds to safety concerns, disclosing specific trade-offs such as holding back a high-end model for four months, revealing the tension between safety stances and commercial competition.

Topics

Tags

Body

Anthropic CEO长文硬刚!自曝雪藏Mythos 4个月,为AI安全自断财路新智元2026年10月22日 06:34:13 来自北京Updated 2026年10月22日 07:17:37

凌晨的硅谷,空气里满是火药味。

就在刚刚,Anthropic掌门人达里奥罕见地在X上破防。

他亲自扔出一篇近千字的硬核长文,正面回击外界对Anthropic最诛心的一句质疑——

对此,达里奥竟竟首次透露——

一个已被训完的Mythos级高级模型,被雪藏了大约四个月,才允许公众触碰。

他把自己公司过去一年里「因为安全而主动亏掉的钱」,一笔一笔摊在了台面上。

在一个模型隔几周就可能改写排名的行业,四个月,足够让一轮又一轮新模型登场。

选择等待,很可能让Anthropic牺牲了原本数月领先优势中的相当一部分。

「Anthropic只想赢下超级智能竞赛」

这一次,把达里奥逼出原形的,是AI安全领域知名调查员Nathan Calvin。

几小时前,Calvin的一篇千字檄文,瞬间引爆了整个AI圈。

他拉出了一张长长的清单,刀刀见血地细数了Anthropic过去一年的「九宗罪」。

豪掷5000亿美元算力大单、秘密组建自研芯片团队,让Claude接管内部26%的研发任务「自我迭代」、悄悄修改安全承诺......

Calvin的潜台词极其辛辣,别装了,你们只想赶在所有人面前造出超级智能!

Calvin和几位政策研究者在读完草案后感到愤怒,认为Anthropic在幕后推动的这份法案看起来像是在呼吁监管,实则暗藏玄机——

Anthropic联邦事务负责人Anthony Cimino原本想在周末发帖灭火,结果彻底点燃了卡尔文的火药桶。

Calvin直接抛出了一连串灵魂拷问:Anthropic到底是一家什么样的公司?

如果按高管们在公开信里的说法,这是一家随时准备为人类踩刹车的「安全机构」。

就在不久前,达里奥还公开警告称,未来6到12个月内AI集群可能接管整个互联网,呼吁全行业必须放慢脚步。

Calvin冷冷地刺了一刀:如果把上面这9件事换成是OpenAI干的,Anthropic的员工怕是早就跳出来骂街,并把这当成对手「利欲熏心、不顾人类死活」的铁证了。

达里奥深夜亮账本

为了安全,我们自断多少财路?

面对几乎要把公司道德根基掀翻的指控,达里奥没有躲。

在回应的开头,达里奥先展现了一把高情商,感谢了Calvin的监督,但客套完他直接拔刀了。

紧接着,他一口气晒出了9笔让无数硅谷投资人看了都会心梗的「自残式操作」。

神级模型到手,硬生生雪藏4个月

这是整篇长文中,信息量最大的一个猛料。

达里奥首次公开承认:早在今年2月,Anthropic就已经训练出了「Mythos级别」的高阶模型。

但Anthropic硬是忍住了。

当时,针对该级别模型的网络安全防御机制还没完全打磨好,他们选择只向极少数合作伙伴开放,专门用于强化网络防御测试。

直到今年6月安全护栏到位,这款模型才正式向公众开放。

整整4个月的领先窗口期,在分秒必争的AI竞赛中,被他们自己亲手掐断了。

达里奥直言,正是因为这4个月的缓冲,许多企业才赶在具备强悍网络攻击能力的AI模型泛滥之前,加固了自己的安全基础设施。

今年6月9日,Anthropic向普通用户推出的Fable 5,就属于这一层级,并配有严格防护。

同次发布的Mythos 5,则先向少量网络防御和基础设施合作伙伴提供部分解除限制的能力。

因此,「雪藏」期间仍有受限使用;6月开放时,也有不同的访问边界。

当然,等待究竟损失了多少收入,又避免了多少风险,他没有给出可量化的账单。

对生物风险「零容忍」

生物领域的代价,尤其让达里奥难受。他本人就有生物学背景。

他称,公司在生物能力测试中看到了令人担忧的结果,也拦截过潜在的生物武器滥用尝试,因此对高风险用途采取严格防护。

问题是,过滤器很难精准读懂每个人的意图。

把危险请求漏过去,叫漏判;把正常研究拦下来,叫误判。为了尽量减少前者,Anthropic接受了大量后者。

正常研究者因此受挫,竞争对手还会把「限制更少」当成卖点。

这笔成本,用户也在承担。

Anthropic此前的官方说明证实,Fable 5触发生物安全过滤后,会把请求交给能力较弱的模型处理。

8月的更新在公司测试中将生物相关回退减少了约85%,但仍保留对双重用途研究的限制。

另一笔账是监管。

达里奥称,Anthropic推动了加州SB 53等立法,还支持过比最终通过版本更严格的方案。今年6月,他又公开主张,政府应拥有阻止模型发布的权力。

这等于支持外部力量握住自己产品的开关。

最后,是5%股权。就在几天前,Anthropic宣布,拟将公司5%的股份投入公共利益基金,尚待股东批准。公司估值超过指定基准后,每增长50%,董事会还可酌情追加2%。

为什么一家公司坚持安全,却还要拼命买算力、加快研发?

达里奥给出的核心逻辑,叫「race to the top」,向更高标准竞争。

Calvin担心的也很直接:如果每一轮竞争都必须赢,安全还能让公司退让多少?

Source

Phoenix Technology