Anthropic 联合创始人 Jack Clark 将自我改进 AI 预测提前至 2027 年
Anthropic co-founder Jack Clark moves his prediction for self-improving AI forward to 2027
Anthropic 联合创始人 Jack Clark 把 AI 系统独立训练出更强后继模型的预测时间提前，此前他在 5 月给出的概率是 2028 年底约 60%、2027 年 30%。这一调整与 P-Zero Research 的新基准 TasteVal 有关，该基准用算力效率衡量研究品味，Anthropic 的 Opus 5.5 取得 2.3 的算力倍数，以不到一半算力达到专家水平，单次运行成本约为专家尝试的三十分之一。自 2025 年 12 月以来该能力约每三个月翻倍，但作者承认任务易于快速验证，结果可能高估研究品味的提升速度。
推荐理由
AI 评分 66
TasteVal 把研究品味折算成算力效率，并给出每三个月翻倍的曲线，读者可据此判断自我改进争论的焦点正转向何处。
主题
正文 · AI 翻译
一个名为 TasteVal 的新基准衡量 AI 系统自主设计实验并解读结果的能力。研究结果显示出一条异常陡峭的提升曲线。
据 Anthropic 联合创始人 Jack Clark 称，自 2025 年 12 月以来，这一能力大约每三个月翻一番。研究实验室 P-Zero Research 将其称为“研究品味”，即挑选正确实验并从中得出正确结论的能力。测试中表现最好的模型以极低的成本胜过了由 24 名人类专家组成的对照组。
该基准并不能证明 AI 系统已经在自我改进，因为它只捕捉了科研工作中很窄的一部分。但它确实显示了这场讨论的走向：从单纯的模型性能，转向语言模型究竟能承担多少独立研究工作量这一问题。
TasteVal 只衡量了图景的一部分
P-Zero Research 将研究品味定义为三种能力：识别哪些研究问题值得追求、设计实验来回答这些问题，以及正确解读结果。TasteVal 只测试后两项。选择最有前景的研究方向通常被视为科学直觉的核心，但在 TasteVal 中，这一决定已经替模型做好了。
八个任务中的每一个都指定了一个来自 AI 模型开发的固定研究目标，以及一个可测量的分数。这些任务涵盖训练数据选择、语言模型的预训练与微调、基于人类偏好的训练，以及防御对抗性提示等领域。
人类基线来自 24 名专家，他们近期曾在 OpenAI、Google DeepMind、Nvidia 和 Microsoft Research 等机构工作。他们完成了相同的任务，每个任务至少有两人参与。每个任务中表现最好的人类尝试被用作基准。
通过算力效率衡量研究品味
为了让研究品味可量化，P-Zero Research 将其转化为算力效率。其逻辑是，在 AI 研究中实验算力是稀缺资源，因此挑选正确的实验并正确解读其结果，意味着在相同预算下更少的运行次数和更多的进展。
该实验室依据其“AI 未来模型”，该模型预测一旦编程实现自动化，实验算力将成为最大的瓶颈。因此，TasteVal 衡量一个模型需要多少算力才能达到专家的分数。一个用一半算力就达到该水平的模型，按此定义其研究品味是两倍。P-Zero Research 将这一比率称为算力倍数。
排名最高的模型是 Anthropic 的 Opus 5.5，其算力倍数达到 2.3，以不到一半的算力达到专家级分数。不过，统计区间为 1.15 到 4.37。在低端，该模型仅会略微领先。单次运行成本平均约为专家尝试成本的三十分之一。
在多个模型世代中，自 2025 年 12 月以来算力倍数大约每三个月翻一番。这里的不确定性也很大，报告的翻倍时间从 1.7 个月到 5.0 个月不等。
在此前几年，模型研究品味的增长要慢得多。这条曲线只在 2025 年与 2026 年之交前后才变得陡峭。这是否是一个持久趋势，无法仅凭单一基准确定，作者本人也承认，他们的结果可能高估了“研究品味提升的速度”。这些任务可以快速且低成本地核查，而这正是 AI 实验室最容易针对其优化的任务类型。对照组中也没有任何顶尖研究人员。
Clark 将他的时间表提前
Clark 长期以来一直称创造力是 AI 系统自我改进速度的关键因素。今年早些时候，他曾写道，模型尚未在任何突破性规模上展现出这种能力。他现在指出数学突破方面的进展以及像 TasteVal 这样的基准，是这种情况正在改变的迹象。
在 5 月的一篇长文中，Clark 曾给出更为谨慎的数字。他估计，到 2028 年底出现一个能独立训练出更强后继系统的系统的概率约为 60%，到 2027 年则为 30%。这一预测来自一位联合创办了其模型在该基准上排名第一的公司的人，这为预测增添了一层偏差。
批评者划下的界线恰恰就是这一能力
TasteVal 之所以重要，是因为它衡量的正是怀疑者所指出的、阻碍重大 AI 突破的那项能力。AI 研究员 Herbie Bradley 反驳了 Clark 5 月的文章，认为虽然模型有可能接手初级研究人员的工作，但研究品味、创造力以及连贯的长期研究规划等要求更高的技能仍不见踪影。
在规划和评估实验方面，TasteVal 对上述评估构成了挑战，尽管它对选择长期研究议程只字未提。
实际差距有多大，一项由复旦大学团队主导的、利用 AI 智能体进行 AI 开发的研究给出了答案。研究人员分析了他们自己模型的开发过程，发现 AI 智能体贡献了高达 55% 的方法论提案，但人类仍然做出了超过 85% 的最终决定。作者指出，目前尚不清楚 AI 如何能在结果出来之前生成多样化的研究方向并评估其价值，而这正是 TasteVal 从模型手中接过的决策类型。
争论正在转向
该基准出台之际，各大 AI 实验室自己引发的一场争论正酣。今年 6 月，Anthropic 写道，递归自我改进尚未实现，但“可能比大多数机构准备好的时间来得更早”。Anthropic CEO Dario Amodei 现在呼吁对 AI 发展进行有控制的放缓，而 OpenAI 承认完全自主的 RSI 尚未发生，并表示只有在保证人类监督的情况下才应追求这一目标。
TasteVal 改变了什么才算进步。很长一段时间里，焦点一直放在模型解决数学问题或编程挑战等定义明确的任务上有多好，但现在问题越来越多地在于它们能否做出推动研究前进的决策。
如果 P-Zero Research 测量到的趋势在其他测试中依然成立，其影响是双向的。AI 开发将变得更快、更便宜，但与此同时，越来越多的研究将变得更难由人类验证，因为模型将规划并评估自己的实验。