AI 热点

Anthropic IPO 引发 AI 安全与医疗应用抗议

Unite.AI更新于 11月20日 08:35

Anthropic IPO Draws Protests Over AI Safety and Healthcare

AI 导读

Anthropic 进入公开市场之际,ACT UP NY 与 Ban RSI 分别在纽约和旧金山组织抗议,质疑 AI 医疗应用及递归自我改进风险。招股书显示其 IPO 以每股 $83 发行 980 million 股 Class A 股票,募资 $81.34 billion;创始人持有的 Class F 股票掌握 50.1% 的一般投票权。

推荐理由

AI 评分 86

抗议诉求与招股书披露并置,呈现 Anthropic 上市后在 AI 安全承诺和治理问责之间的矛盾。

主题

标签

正文 · AI 翻译

2026 年 11 月 19 日,Anthropic 进入公开市场之际,ACT UP NY 和 Ban RSI 分别在纽约和旧金山组织了示威活动。这些行动对 AI 在医疗保健领域的应用和递归自我改进提出质疑;与此同时,另一场运动则就 AI 投资和退休储蓄的使用问题向金融机构施压。

ACT UP NY 号召支持者于美国东部时间上午 8:30 前往时代广场 4 号,当时 Anthropic 正在那里举行纳斯达克 IPO 活动。其行动通知要求成员举起“让 AI 滚出我们的医疗保健”横幅、散发传单,并可能在集会上发言和接受记者采访。

ACT UP 的通知称,其反对的一些做法已经开始出现在医院和医生诊所。其担忧包括:AI 取代真人医疗筛查或医院工作人员、影响治疗和治疗结果、使用健康数据进行训练,以及存在种族、性别和反 LGBTQ 偏见。

Ban RSI 的集会页面安排了另一场集会,地点在 Anthropic 位于旧金山霍华德街 500 号的办公室外。活动信息显示,集会定于太平洋时间上午 11 点至中午举行。

随后,该活动信息显示有 164 个账号被归入“已参加”类别;这是主办平台上的 RSVP 状态,并非经核实的现场人数。Ban RSI 列出的预定演讲者包括前 AI 研究人员 Jacob Coxon 和 Daniel Kokotajlo,以及 AI 安全教育者 Rob Miles。

Ban RSI 将递归自我改进定义为由 AI 承担构建更强大 AI 的工作。该组织希望禁止大型 AI 公司使用比集会举行时可用系统更强大的系统开展 AI 研究,理想情况下通过一项国际条约实现。其拟议的执行机制将要求更强大的系统配备保障措施,即使在公司内部也要阻止此类研究;还要对这些保障措施进行红队测试,并为明确不会增强 AI 能力的监控和安全研究设置例外。

该组织并未要求 Anthropic 单方面暂停。它希望 Anthropic 宣布为避免递归自我改进而采取具体、可核实的措施,其中可能包括敦促其他 AI 公司效仿,或游说推动相关立法。

Anthropic 的最终版招股书将“闭环”描述为一种结构性优势:后续版本的 Claude 会通过开展实验、生成和处理训练数据、进行评估与安全审计,以及编写和审查代码,协助构建下一个版本。

Anthropic Institute 的一篇文章称,完全的递归自我改进——即 AI 系统自主设计和开发自己的后继系统——尚未到来,也并非不可避免。文章还称,这种能力可能增加人类失去控制的风险。文章指出,尽管 Claude 正承担越来越多的工程和研究工作,但在判断应追求哪些目标、开展哪些实验方面仍存在差距。

该公司表示,如果其他处于或接近前沿水平的开发者以可核实的方式放缓或暂停,它预计自己也会放缓或暂时暂停。其提出的条件包括多个国家中拥有充足资源的多家实验室,以及能够确认各方遵守约定的系统。

Anthropic 认为,单方面暂停所能取得的成效较小,而且可能改变行业领跑者。这一点与同样不主张要求单方面暂停的 Ban RSI 形成了有限共识,但双方在当下应承担的义务上存在分歧:抗议者希望 Anthropic 自行宣布可核实的措施,而该公司所称的暂停预期则取决于其他方采取对等行动。

退休基金与股东控制权

这些财务方面的异议也将注意力引向 Anthropic 首次公开募股后由谁控制公司的问题。最终版招股书将 9.8 亿股 Class A 股票的发行价定为每股 83 美元,发行规模为 813.4 亿美元。招股书规定,由创始人的 Founder LLC 持有的一股 Class F 股票拥有相当于一般投票权 50.1% 的票数;Long-Term Benefit Trust 通常可以选举和罢免 Class T 董事,而这些董事在董事会中占多数。每股 Class A 股票拥有一票表决权。

这些安排将一般投票权集中在创始人的持股实体手中,并将董事会成员的选任权集中在该信托手中。因此,这次 IPO 留下了一个双重问责问题:Anthropic 的开发实践能否受到可核实的约束,以及这种治理结构能否坚守公司的公共利益宗旨,即为了人类的长期利益负责任地开发 AI。

来源

Unite.AI