AI 热点

Anthropic CEO Dario Amodei就公司IPO阐述AI使命与安全承诺

Anthropic更新于 11月20日 01:24

Remarks from Anthropic CEO @DarioAmodei on our initial public offering:

AI 导读

Anthropic CEO Dario Amodei在公司IPO之际表示,增强的财务实力将进一步支撑其公共利益与AI安全使命。Amodei认为强大的AI与人类协作可加速科学和医疗进展,同时承诺按安全需要控制AI系统的训练与部署节奏,不向商业或政治压力让步。

推荐理由

精选AI 评分 87

Dario Amodei借IPO阐明Anthropic的长期取向,将财务实力与医疗应用、AI安全及人类控制原则联系起来。

主题

标签

正文 · AI 翻译

Anthropic CEO @DarioAmodei 就我们首次公开募股发表的讲话:

我的联合创始人和我创办 Anthropic,是因为我们相信,这个时代最强大的技术应当为了全人类的福祉而构建。

Daniela 和我因疾病失去了父亲,而仅仅几年后,这种疾病就变得可以治愈了。我从生物学领域开启职业生涯,希望帮助未来的疗法更早问世。在实验室里,我看到了科学家在尝试了解疾病和开发新疗法时所面对的那片盘根错节、纷繁复杂的丛林。

许多能够帮助我们穿越这片丛林的科学工具——基因编辑、基因合成、用光控制脑细胞的工具——起初都只是纯粹的构想。换句话说,它们源于思考,源于智能。

人类智慧已经让鼠疫、天花和脊髓灰质炎等疾病在世界大部分地区成为历史。但对于许多其他疾病,无数患者及其家人等待进展的时间实在太久了。从一个绝妙的想法发展成一种疗法可能需要几十年:从首次发现 DNA 中一种奇特的重复模式,到首个利用 CRISPR 治疗疾病的疗法获批,经历了许多年。

大自然中充满了这样的模式。但我们一直缺乏足够的智能来破解其中的大多数模式;科学家太少,时间也太少。现在,我们可以构建这种智能。无论是蛋白质折叠、药物设计、癌症遗传学,还是临床试验管理,众多生物学和医学领域的科学家都发现,Claude 可以帮助他们用短得多的时间完成研究,只需几年前所需时间的一小部分。我相信,足够强大的 AI 与人类协同工作,可以把一个世纪的科学和医学进步压缩到十年内实现。

我不想操之过急。现阶段,我们掌握的还只是初步成果。实验和临床试验仍然需要时间。尽管这些过程缓慢而繁复,但我相信 AI 可以大幅加快它们。我们希望,未来不会再有那么多家庭仅仅因为相差几年而错过治愈的机会。

医学只是一个格外鲜明的例子,但还有许多其他例子。我们的客户——世界上最具雄心的公司、非营利组织和个人——已经在运用我们构建的智能来推动经济增长、帮助人们摆脱贫困、保护民主与自由社会,甚至让 DMV 这样的日常公共服务运转得更好。我们为能够与他们并肩合作而感到自豪。我也对我们未来能够共同实现的成就极为乐观。

与此同时,我们始终坦诚地指出,这项技术确实存在非常现实的风险。这些风险包括个人或国家滥用技术、经济动荡,以及 AI 系统失控。我们讨论这些风险,不是因为我们认为它们不可避免,而是因为我们相信它们可以避免。

能否避免这些风险,取决于 AI 构建者所作的选择。如果我们几乎不重视安全,AI 的发展道路将与我们全力关注安全时截然不同。自创立之初,对安全和公共利益的执着就已融入 Anthropic 的 DNA。从防范生物和网络风险的保护措施,到对齐训练与测试,再到像用 X 光一样审视模型内部,Anthropic 开创了多种理解和引导 AI 系统行为的方法。

仍有大量工作要做,而最艰巨的安全工作还在前方。正是公司卓越的人才让我们得以构建能力最强的 AI 系统;我们必须比以往更加集中这些人才的力量,反复检查这些 AI 系统是否安全可靠。

我要明确无误地声明:我们将控制 AI 系统的训练和部署节奏,并将花费一切必要的时间,直到我们有信心确认它们是安全的,而且会始终处于人类控制之下。我们不会向商业或政治压力屈服。今天,公司拥有了更稳健的财务状况,而这只会进一步坚定我们做正确之事的决心。

如果我们能够证明,既可以在安全问题上作出正确选择,又可以打造一家极其成功的公司,行业内的其他参与者就会受到鼓舞,采取同样的行动。我们称之为“向上竞赛”。当向上竞赛正常发挥作用时,哪家公司拥有最好的模型并不重要——因为每家公司都在安全地构建 AI,所以所有人都是赢家。由领先者引领时,向上竞赛的效果最好;我们完全希望并相信自己能够发挥这种引领作用,但我们的目标是让整个行业变得更好,无论 Anthropic 在任何特定时刻处于领先还是落后位置。

机器智能的到来是人类历史上的重大时刻之一,而我们拥有一个难得的机会,可以引导它向更好的方向发展。

这一时刻的意义超越任何一家公司,也超越任何一个国家。我们所有人都需要携手合作,确保这项技术为我们以及未来许多代人带来良好结果。从今天开始,我们希望你能加入我们,共同承担这项使命。

来源

Anthropic