AI 热点

Anthropic 上市之际重申将按安全需要控制 AI 开发节奏

TechCrunch AI更新于 11月20日 01:07

At Nasdaq opening bell, Anthropic CEO recommits to pacing AI development

AI 导读

Anthropic 在华尔街上市当天,CEO Dario Amodei 承诺按安全需要调整 AI 系统的训练和部署节奏,不向商业或政治压力让步。公司将继续投入对齐、测试和 AI 行为研究,确保系统处于人类控制之下。Amodei 同时表示,AI 与人类协作或可加速医学研究,但目前只有早期成果。

推荐理由

精选AI 评分 86

Dario Amodei 将上市后的资本压力与安全承诺并置,呈现 Anthropic 对训练和部署节奏的公开立场。

主题

标签

正文 · AI 翻译

周四,Anthropic 以史上最大规模的 IPO 登陆华尔街之际,CEO Dario Amodei 再次重申了公司以负责任方式开发 AI 的承诺。在纳斯达克开市钟敲响前的演讲中,Amodei 承诺,这家 AI 公司不会向商业或政治压力低头,并将确保 AI“始终处于人类控制之下”。

这位 CEO 照着打印稿发表演讲,开篇谈到了 Anthropic 的创立初衷:打造能够造福人类的强大技术。他说,这一愿景源于父亲因病离世的经历,而就在几年后,这种疾病便已有药可治。

他指出,尽管人类智慧已经让鼠疫、天花和脊髓灰质炎等疾病在世界大部分地区成为历史,但科学家人数仍然太少、时间也太有限,难以在其他疾病领域取得进展。他表示,AI 可以通过与人类协作,帮助进一步推动医学进步。

Amodei 以一个凸显 AI 潜在救命用途的故事开场,颇具深意,因为他曾多次警告,过快推进这项技术会带来风险。9 月,Amodei 因提出一项控制 AI 开发节奏的计划而登上新闻头条,其中包括与其他领先企业协调制定安全标准,以及引入第三方机构的评估人员,核实各公司是否履行其安全承诺。

OpenAI CEO Sam Altman、Google DeepMind 负责人 Demis Hassabis 和 xAI 所有者 Elon Musk 均表示赞同 Amodei 的立场,不过各方几乎没有作出具体承诺。

在今天上午的演讲中,Amodei 再次强调了推进 AI 技术发展及确保这一过程安全的必要性。他谈到了 AI 落入不法行为者手中的“切实风险”,无论这些行为者是个人还是国家,并提及“经济动荡”和“失去对 AI 系统的控制”等潜在后果。

他指出,Anthropic 认为,只要建立适当的安全保障,这些风险是可以避免的。Amodei 表示,公司将继续投入 AI 对齐与测试工作,并开发理解 AI 行为的新方法,确保 AI 始终处于人类控制之下。

“仍有大量工作要做,而最艰巨的安全工作还在前方,”他说,“公司拥有非凡的人才,正是他们让我们得以打造出能力最强的 AI 系统。今后,我们需要比现在投入更多精力,反复进行双重乃至三重核查,确保这些 AI 系统是安全的,并始终处于人类控制之下。”

“我要明确无误地说,我们将控制 AI 系统的训练和部署节奏,并将为此投入一切必要的时间,直到我们有信心确认它们是安全的,并将始终处于人类控制之下。”Amodei 总结道。

他的妹妹、Anthropic 联合创始人 Daniela Amodei 周四接受 CNBC 采访时也表达了同样的观点。她指出,尽管风险确实存在,但 AI 带来的前景同样“令人难以置信”。

“我们创立公司,正是基于这样一种理念:降低这些风险是我们的职责。我认为,迄今为止我们在这方面做得非常出色。显然,我们面前还有更多工作,但我们坚定地致力于安全。”她补充道。以下是 Dario Amodei 开幕演讲的全文:

谢谢你,Daniela。我和联合创始人们创办 Anthropic,是因为我们相信,当今时代最强大的技术应当为造福人类而打造。Daniela 和我因一种疾病失去了父亲,而仅仅几年后,这种疾病便已有药可治。我从生物学领域开启职业生涯,希望帮助未来的治疗方法更早问世。在实验室里,我看到了科学家在试图理解疾病和开发新疗法时所面对的那片盘根错节、纷繁复杂的密林。许多能够帮助人们穿越这片密林的科学工具——基因编辑工具、基因合成工具、利用光控制脑细胞的工具——起初都只是纯粹的构想。换言之,它们源于思考,源于智慧。

人类智慧已经让鼠疫、天花和脊髓灰质炎等疾病在世界大部分地区成为历史。但对于许多患者及其家人而言,其他疾病领域的进展仍然太慢。从一个绝妙的构想到一种治疗方法,可能需要几十年时间。从首次发现 DNA 中一种奇特的重复模式,到首个利用 CRISPR 治疗疾病的方法获批,历经了许多年。自然界充满了这样的模式,但我们的智慧一直不足以解读其中的大多数。科学家太少,时间也太[少]。如今,我们可以构建这种智慧。无论是蛋白质折叠、药物设计、癌症遗传学,还是临床试验管理,生物学和医学众多领域的科学家都发现,Claude 能够帮助他们在过去所需时间的一小部分内完成研究,而就在几年前,这些研究还要耗费漫长的时间。我相信,足够强大的 AI 与人类协同工作,可以将一个世纪的科学和医学进步压缩到十年之内。

我不想言之过早。现阶段,我们拥有的只是初步成果。实验和临床试验仍然需要时间;尽管这些过程缓慢而繁重,但我相信,AI 能够大幅加快其进程。我们希望,未来会有更少的家庭仅仅因为早了几年而与治愈方法失之交臂。医学只是一个格外鲜明的例子,Claude 还有许多其他用途。我们的客户——全球最具雄心的企业、非营利组织和个人——已经在运用我们打造的智能来推动经济增长、帮助人们摆脱贫困、保护民主与自由社会,甚至让车辆管理局(DMV)之类的日常公共服务运转得更好。我们很自豪能与他们并肩合作,也对未来我们共同能够取得的成就极为乐观。

与此同时,我们始终坦诚承认,这项技术确实存在非常现实的风险。这些风险包括个人或国家滥用技术、经济动荡,以及 AI 系统失控。我们讨论这些风险,并不是因为我们认为它们不可避免却仍要继续开发,而是因为我们认为它们可以避免,而且我们能够避免。能否避免这些风险,取决于 AI 开发者所作的选择。如果我们很少关注安全,AI 的发展轨迹将与我们极度重视安全时截然不同。自创立之初,对安全和公共利益的不懈追求就已融入 Anthropic 的基因。从防范生物和网络风险的保障措施,到对齐训练与测试,再到像用 X 光一样审视模型内部,Anthropic 开创了理解和引导 AI 行为、确保其处于人类控制之下的方法。仍有大量工作要做,最艰巨的安全工作还在前方。公司凭借非凡的人才打造出了能力最强的 AI 系统,而今后,我们必须比以往更加集中这些人才的力量,对这些 AI 系统是否安全、能否始终处于人类控制之下进行再三核查。

我要明确无误地表示:我们将控制 AI 系统的训练和部署节奏,并花费一切必要的时间,直到确信它们是安全的,并将始终处于人类控制之下;无论面对商业压力还是政治压力,我们都不会屈服。今天,公司拥有了更稳健的财务状况,而这只会进一步坚定我们做正确之事的决心。如果我们能够证明,既可以在安全问题上作出正确选择,又可以打造一家极其成功的公司,那么业内其他公司也会受到鼓舞,采取同样的做法。我们称之为“向上竞赛”。

当“向上竞赛”正常发挥作用时,哪家公司拥有最好的模型并不重要。因为所有人都在安全地开发,所有人都会受益。当这种竞赛由领跑者推动时,效果最佳,而我们完全希望并相信自己会成为领跑者。但我们的目标是推动整个行业变得更好,无论 Anthropic 在任何特定时刻处于领先还是落后。机器智能的到来是人类历史上具有开创性意义的时刻之一,而我们拥有一次难得的机会,可以引导它朝着更好的方向发展。谢谢大家。

来源

TechCrunch AI