编者按: 鉴于 我在此事上的利益冲突 ,这篇文章我没有参与撰写,但做了编辑。——Casey

现在,这家承诺很快将取代我们的公司,带来了史上规模最大的 IPO。

Anthropic 募得 813 亿美元,于周四登陆 Nasdaq,创下首次公开募股募资额的历史纪录。截至收盘,Anthropic 估值 达 1.76 万亿美元,使这家 AI 实验室既成为全球最大的 公益公司 ,也跻身全球规模最大的上市公司之列。

从表面上看,今天本应是 AI 行业大获全胜的一天:一家 AI 热潮中的宠儿刚刚成功上市,既印证了市场对前沿级智能的巨大需求,也让数千亿美元回流科技生态系统。尽管人们仍在担忧 AI 泡沫——从行业内部的循环融资安排,到 Jensen Huang 的种种活动所引发的地缘政治后果 ——,投资者仍然热衷于在 Anthropic 身上下重注。

另一方面,Anthropic 的使命是打造比人类更聪明的 AI 系统——其创始人曾 反复 警告说, 这些系统可能会杀死所有人。这让此刻显得……苦乐参半?令人抓狂?令人愤怒?

这取决于你问的是谁。

Anthropic CEO Dario Amodei 在 Nasdaq 的演讲中 试图继续维持他如今已为人熟知的平衡姿态,一方面宣扬 AI 推动科学突破的潜力,另一方面也警告其可能被滥用。“我和公司的联合创始人创办 Anthropic,是因为我们认为,我们这个时代最强大的技术应该为造福人类而打造。”他说。

并非所有人都买账。当创始人们在华尔街开启(我们猜是)以合乎道德方式采购的无酒精香槟庆祝时, 超过 100 名抗议者 聚集在这家 AI 公司位于旧金山的总部外,手举写有“停止 AI 竞赛”“地球正处于危险之中”和“请停下来”等字样的标语。其中包括 Jacob Coxon,他有关从 Anthropic 离职的推文走红,再次引发了人们对 AI 安全运动的关注;他还在抗议活动中发表了讲话。4 人 被捕 ,据称他们堵住了公司办公室的入口。

与此同时,从一贯质疑 AI 的 Gary Marcus 到狂热的 AI 加速主义者 Guillaume Verdon(又名 Beff Jezos),形形色色的人士共同签署了 《反 Anthropic 声明》.” 

声明写道:

“Anthropic 警告称,递归式自我改进的 AI 可能会导致权力集中并脱离人类控制,却又争相抢先打造这种 AI。该公司利用安全品牌形象来讨好投资者、员工和公众——尽管它已悄然削弱自身的安全承诺,并游说推动有利于自身的监管政策。Anthropic 并不是一家安全的 AI 公司,我们必须拒绝它以更大利益之名肆意攫取权力的鲁莽企图。”

未来学家们 长期以来一直在推演 “递归式自我改进”的危险。这种状态是指足够先进的 AI 在日益紧密的循环中构建下一代自身版本。由于系统出现不当行为时,人类理解或阻止它的能力将越来越弱,这一过程有失控的风险。 

AI 审计机构 METR 最近发布的一份 报告 得出结论称,得益于 AI 的研究能力,Anthropic 的 AI 研发进展速度大致翻了一番。值得注意的是,研究进展速度翻倍意味着该公司已经超过了其在《负责任扩展政策》中为“自动化研发”设定的风险阈值。 “负责任扩展政策”。

根据该政策,Anthropic 现在应该开展新的安全审计、制定安全政策并进行透明报告,以履行其承诺。但 Anthropic 的《负责任扩展政策》并不具有约束力。Anthropic 曾支持加州 SB 53 法案,该法案要求企业公布其依法必须遵守的安全政策。但 该法案通过后,Anthropic 根据 SB 53 提交了一个 较为宽松的框架 ,将其更具雄心的安全承诺重新定义为自愿承诺。

Amodei 在 Nasdaq 发表演讲时承诺,将“调整 AI 系统训练和部署的节奏,花费必要的时间”来确保其安全。Amodei 补充道:“我们既不会屈服于商业压力,也不会屈服于政治压力。”

Anthropic 将 继续面临商业压力,需要不断打造能力最强的 AI 系统,以留住客户并安抚投资者。(《 金融时报》的 Robert Armstrong 估计 ,该公司需要实现超过 6000 亿美元的年营收,才能达到其同行所取得的 20% 投资资本回报率;相比之下,Apple 的营收仅为 4780 亿美元。所以!)在一次 交谈 中与 CNBC,Amodei 表示,Anthropic 希望达到“投资级”——即获得较高的信用评级——并计划发行更多债券。

筹集数十亿美元资本并增加举债,以获得越来越多的算力,在一些人看来,是一种颇为奇怪的方式来 “控制前沿发展的节奏。”Amodei 为公司的做法辩护称,这是推动一场“向上竞赛”所必需的;在这场竞赛中,Anthropic 的财务成功和安全承诺会激励竞争对手采取类似做法,以期迎头赶上。

Jasmine Sun 在为 《纽约时报》, 撰稿时报道称 ,并从一位匿名离职员工那里听到了这一愿景的一个惊人版本:

“一位 Anthropic 前员工在试图解释 Anthropic 的思维方式时,援引了 J.R.R. Tolkien 的寓言:谁先打造出超级智能,谁就会得到 Sauron 的魔戒。那个人或公司将拥有世界上最危险的网络武器、治疗每一种疾病的方法和配方,以及一支不知疲倦、听命于自己的数字天才大军。因此,最关键的问题在于,佩戴魔戒的人是否具备道德。”

许多读者或许还记得, 《指环王》 中的至尊魔戒会腐蚀所有佩戴者的心智,逐渐将他们引向邪恶,这一点广为人知。 

正如 Frodo Baggins 最终开始憎恶魔戒一样,Anthropic 最早期的投资者之一似乎也对当初投资 Anthropic(以及更早之前投资 OpenAI)的那一天感到后悔。他在一份提供给 《纽约时报》的声明中表示,Facebook 联合创始人 Dustin Moskovitz 写道:“Cari 和我投资 Anthropic 是为了促进安全,而不是为了竞赛。”(Moskovitz 与妻子 Cari Tuna 一同进行了投资。)声明还写道:“AI 发展得太快了。Anthropic 和其他所有处于前沿的公司都应该放慢脚步,停止竞赛。”

Moskovitz 和 Tuna 的一名发言人表示,他们已于 2025 年将所持 Anthropic 股票捐给一家非营利组织,从而避免夫妇二人从中获利。

没有人能确定未来会怎样。Amodei 显然对自己的愿景相当有信心——值得肯定的是,当竞争对手还在机器人技术、世界模型和其他华而不实的事物上摇摆不定时,Anthropic 对 规模定律 的孤注一掷,如今回头看来显得极其明智。 

与此同时,尽管此次 IPO 或许让散户投资者有机会分享 AI 可能带来的任何上涨收益,但它也让各家前沿实验室正在进行的一场鲁莽豪赌受到必要关注:它们认为,尽管自己也相信这项技术会让所有人面临风险,却仍能在政府监管极少的情况下构建越来越智能的系统。

Anthropic 故事的许多方面都令人难以置信。一群看似毫不关心商业的 OpenAI 离经叛道者,如何从一支乌合之众发展到完成史上规模最大的 IPO,未来很长时间里都将成为研究对象。 

不过,对抗议者而言,眼下 Anthropic 的故事中最令人难以置信的是,各国政府迄今为止几乎没有采取任何行动来阻止这一切。或许 AI 最终真的会开启一个奇迹时代。但民意调查显示,公众并不相信这一说法——而且至少目前,Anthropic 仍未能让全世界相信,这些风险值得用潜在回报来交换。

赞助内容

儿童性虐待材料(CSAM)可能出现在训练数据集、AI 生成的输出内容或托管在贵公司平台上的内容中。了解这些风险会在哪里出现,是保护儿童和贵公司品牌的第一步。

Thorn 的儿童安全检查清单为安全和治理团队提供了可在 AI 开发、部署和维护各阶段考虑采用的实用防护措施。

了解用于筛查训练数据、检测有害输入和输出、评估托管模型以及建立举报程序的措施。使用这份检查清单来发现潜在缺口、确定防护措施的优先级,并指导与产品、工程和安全负责人之间的讨论。

无论贵公司是开发模型、提供 AI 创作工具还是托管内容,都可以使用这份清单,将儿童安全考量纳入有关产品、政策和持续监督的决策之中。

获取 Thorn 的儿童安全检查清单。

在星期五这期节目中:Kevin 和我对照梳理了三年来对 Anthropic 的报道。面对投资者的压力,该公司能否坚守其安全承诺?随后,又到了重新打开潘多拉魔盒的时候。

YouTube | Apple | Spotify | RSS

那些优质帖子

如需每天查看更多优质帖子, 请关注 Casey 的 Instagram 快拍.

(链接)

(链接)

(链接)

联系我们

请将提示、评论、问题以及对 Anthropic 的看法发送至: casey@platformer.news。阅读 我们的道德政策.

赞助一份新闻简报