←新闻详情

MIT Tech Review更新于 10月27日 03:30

Anthropic 递交 IPO 招股书后,它的叙事还能站得住吗

Will the real Anthropic please stand up

AI 导读

Anthropic 在数周猜测后递交了 335 页的 IPO 招股书,其中约 100 页聚焦风险。作者梳理了联合创始人 Jack Clark 在曼谷 IMF 会议上称奇点已经开始、Chris Olah 在梵蒂冈称模型内部状态映射出喜悦与恐惧等公开表述,认为这些叙事把技术描绘成神秘而危险,并暗示只有 Anthropic 值得信任。作者指出,Anthropic 同时是估值超 1.5 万亿美元的上市公司、AI 安全组织和争夺前沿能力的竞争者,CEO Dario Amodei 用“race to the top”回应外界质疑,而这些多重角色之间的张力会影响外界该在多大程度上信任它自我监管。

推荐理由

AI 评分 66

文章借 Anthropic 的 IPO 招股书和高管公开言论,梳理它如何用叙事塑造自身形象,并追问这种形象与商业现实之间的张力。

主题

标签

正文 · AI 翻译

经过数周的疯狂猜测,Anthropic 已提交其 IPO 招股说明书。这份 335 页的文件(其中约 100 页聚焦于风险)阐述了该公司对其正在构建的技术所持的独特观点,以及它认为该技术将如何改变世界。

但 Anthropic 多年来一直在磨练其讲故事的能力。事实上,它的公开信息传递堪称叙事俘获的典范。

本月早些时候,该公司联合创始人兼政策主管杰克·克拉克在曼谷举行的 IMF 会议上发表演讲,向与会的经济学家、银行家和立法者宣布,奇点已经到来。

奇点这一概念由科幻作家、未来学家弗诺·文奇在大约 40 年前提出(并长期在互联网较为极客的边缘圈层中被争论),它本应指技术发展到极其先进、以至于超越其创造者能力的那个时刻。

按照这一设想,人类将被甩在身后,不再能够与——甚至理解——他们昔日创造物的成果相竞争。

而这个我们许多人从小就想象的虚构世界?显然我们已经生活在其中了:“我相信,今年我们已经获得了令人信服的证据,表明它已经开始,”克拉克对听众说。

该公司讲述了一个生动(且在诸多方面令人恐惧)的故事,描绘了一个它宣称不可避免但尚未发生的未来,且往往挪用了老套的科幻梗。它将自己的技术呈现为神秘而危险,并坚称自己是唯一足够可信、能够驯服它的公司。(哪个投资者不想参与其中呢?)

再举一个例子。去年,Anthropic 的另一位联合创始人克里斯·奥拉受邀在梵蒂冈发表演讲,他向教皇利奥十四世以及其他宗教学者和官员讲述了他的公司对其技术的了解。“说实话:我们不断发现一些神秘、甚至令人不安的东西,”他说。“我们发现了内省的证据。我们发现了在功能上映射出喜悦、满足、恐惧、悲伤和不安的内部状态。”

且不论许多研究人员会对这种公然暗示 Anthropic 的软件具有类人内心体验的说法嗤之以鼻。在如此少的事情看似确定之时,Anthropic(及其前沿 AI 同行)所说的话被人们抓住不放,就像抓住一艘正在下沉的船的碎片。

我并不是说他们在这些事情上一定错了。(那是另一天的话题。)但在一个无人知晓未来会发生什么的世界里,像 Anthropic 这样的公司得以填补这一真空。

值得花点时间问一句:Anthropic 是什么?这听起来像是家庭问答节目里的入门题,但它的答案远比你可能想象的更难给出。

The question has been on my mind since reading an exchange on X last week kicked off by Nathan Calvin, who is chief strategy officer at Encode AI, an organization based in Washington, DC, that advocates for regulation. Calvin was unhappy about the legislation that Anthropic proposed in a draft bill it circulated in secret to US lawmakers (which was then leaked ).

Anthropic 希望被视为好人,卡尔文说。但我们为什么要信任它?“Anthropic 是什么?”他问道。

这里有一个答案:Anthropic 是一家 IPO 估值超过 1.5 万亿美元的公司,让其联合创始人——包括克拉克和奥拉——获得了巨额财富。

但 Anthropic 一直坚称自己不止于此。正如卡尔文所指出的:Anthropic 也可能被视为一家 AI 安全组织,专注于开发可靠且(几乎)无风险的强大技术。或者,它也可能被视为一群人,执意要在其他任何人之前创造出一种具有超人能力的技术——也许是因为他们相信自己是最负责任的人选,也许是因为他们的自负。

事实上,Anthropic 兼具所有这些身份。正如 CEO 达里奥·阿莫代伊在回复卡尔文的帖子时所说:“我们的战略一直是我所称的‘向上竞争’——通过展示如何负责任地构建这项技术,我们可以提高整个行业的门槛。如果践行这一战略的公司处于前沿,那么推动向上竞争的力量就会有效得多;这是我反复学到的一个教训。纵观这一战略的整体,我为我们的过往记录感到自豪,并坚持这一战略。”

阿莫代伊说得好像一切尽在掌握,但扮演多重角色并不容易。例如,一家 AI 安全组织的优先事项与一家利润驱动的巨型企业之间存在着巨大的张力。(阿莫代伊在帖子中承认自己犯过错误。)

归根结底,Anthropic 对自己讲述的故事应当帮助我们理解它对我们讲述的故事。它们应当帮助我们判断,在多大程度上信任它进行自我监管,或者我们是否应当迫使它按照我们的条件而非它的条件,让外部安全测试人员访问其模型。当一项看起来像是为自身利益服务的立法曝光时,它们应当帮助我们决定是否给予它善意推定(或者不给予)。

但我认为这些故事揭示的是一个多头蛇怪。对许多人来说,Anthropic 意味着许多东西,而我不确定这是否让它更值得信任。在许多方面,一家老派的普通科技公司——没有科幻角色扮演,没有那些玄乎其玄的东西——会容易解读得多。

在 AlphaGo 对阵围棋冠军李世石十年之后,今天的人工智能仍未触及当年那场胜利背后的机制。

来源

MIT Tech Review