Import AI 475：群体扩展、Google DeepMind 为生物数据加水印与 AI 科学经济

谁来选择让 AI 做什么？

什么时候应该使用群体？当你赶时间的时候：……群体扩展是如何运作的？……Toby Ord 有一篇简短而精炼的文章，讲如何从 AI 能力发展的角度来思考群体。“看待 AI 群体的一种好方式，是把它看作一种新的推理扩展形式，”他说。他做了一些分析，主要结论是：如果你赶时间，群体是有用的，因为尽管相对于单个智能体它们需要大量 token，但它们的并行化让你能在更少的实际耗时内完成任务。“你为什么会使用群体？最重要的答案是速度。4 个智能体的群体需要大约两倍的 token 总量才能达到相同的性能，但就每个智能体的 token 而言，它只需要一半。由于这些智能体是并行运行的，这意味着理论上它可以在一半的时间内完成同样的任务，”他写道。

踩脚参数：群体扩展并不能完美扩展——相反，随着群体中智能体数量的增加，似乎会出现收益递减的特性，这与经济学家对协调大规模人群的观察相符，即随着参与人数的增加，你会付出某种税。经济学家将其视为“踩脚”参数，而群体在这里的表现似乎与人类团队非常相似。“这意味着，将群体中智能体的数量扩展 10 倍，所获得的性能不如用单个智能体使用 10 倍 token 所获得的性能。相反，它只能获得 10λ 倍的性能——也就是 3 倍到 5 倍。而且这种缺口在更大规模的扩展中会迅速累积，群体越来越落后，”他写道。然而，群体扩展仍然足够强大，以至于它表明群体可能增加而非降低由 RSI 驱动的智能爆炸的可能性。“我曾希望 AI 智能体的 λ 值会更低，从而降低智能爆炸的可能性，但情况似乎并非如此”。

***

美国人不信任公司对 AI 进行自我治理：……新民意调查表明我们需要的不只是自愿协议…… 来自共享 AI 繁荣中心（CSAIP）的民意调查表明，美国人认为公司同意对 AI 开发进行自我监管是“不够的”。此前，特朗普政府以及一些世界领先的 AI 公司（包括 Anthropic 和 OpenAI）宣布了一系列行业自我监管的自愿承诺。根据 CSAIP 的民意调查，61% 的美国人（样本量：2498）认为该协议“不够”，其中包括 53% 的特朗普选民。此外，54% 的选民（哈里斯选民 61%，特朗普选民 48%）表示他们认为“政府应该为 AI 制定并执行规则”。

为什么这很重要——民粹情绪正在对华盛顿施压：这样的民意调查表明，美国民众的情绪正在推动对 AI 公司实行比华盛顿民选官员当前立场更严格的监管框架。选民偏好与政治行动之间的这种不对称本质上是不稳定的。政治体系中正在积聚能量——当它沸腾溢出时会发生什么？在 X 上阅读民意调查（CSAIP，X）。

***

Google DeepMind 尝试为 AI 制造的生物数据加水印：……SynthID Bio…… Google 开发了 SynthID Bio，这是“一套专为合成生物学开发的水印方法，旨在加强生物安全和科学诚信”。

工作原理：SynthID 根据数据类型调整其具体方法，为序列选择不同的氨基酸，并“调整预测 3D 结构的原子坐标”，以创建可靠的检测信号。“在针对三种目标蛋白（VEGF-A、SARS-CoV-2 刺突蛋白 RBD 和 PD-L1）的湿实验室测试中，我们加水印的设计在命中率、结合亲和力和天然序列多样性方面与未加水印的版本相当，”DeepMind 写道。

***

SciUniverse 表明 AI 系统已经能够操作某些部分自动化的科学实验室：……当我们把这些合成智能配备上科学设备时会发生什么？…… 给定一个自动化实验室，AI 系统能多好地制造分子、运行 X 射线或压制药丸颗粒？这些是 C5R Corp 试图通过 SciUniverse 回答的一些问题，SciUniverse 是一种测试 AI 系统操作大部分自动化科学实验室能力的方法。

SciUniverse 包含什么：该基准包含 17 个任务族中的 92 项任务，涵盖基本样品制备、仪器控制、协议适配、跨实验学习、设施管理以及真实测量数据的解读。任务范围从化学（例如，从 NMR 指认结构），到生物学（例如，在无细胞系统中表达 sfGFP），再到材料科学（例如，压制 BaTiO3 颗粒）。

模型表现如何？Claude Fable 5.1（xhigh）以 45.3% 的通过率和每任务 40.61 美元的成本领先，其次是 GPT-5 Astra（xhigh），通过率 32.5%，成本 52.37 美元，然后是 Claude Opus 5（xhigh），通过率 30.5%，成本 46.31 美元。

***

DeepMind认为，即将到来的AI科学家将需要自己的科学经济：……迈向全自动的奢华科学……我们如何管理一个拥有远更多科学家的世界？这是DeepMind研究人员在一篇新研究论文中提出的问题，他们的答案是，我们需要为提出和运行科学实验创建一个市场，以便更好地将想法与稀缺的现实世界资源相匹配。

他们的建议是：“AI科学家的发展很可能主要受限于物理资源和实证验证，而不是产生看似合理或有前景的研究想法的能力，”他们写道。“科学界必须主动发展一种原生的自动化科学经济。这种经济将使科学追求之间的权衡变得明确，包含代表公共利益的机制，并有助于避免盲点和被忽视的议题。它还将使构思的计算劳动与物理执行的资本密集型劳动在财务上脱钩成为可能，并使智能体和机构能够根据不同研究提案的估计价值，就有限物理资源的优先使用权进行协商。”

如何构建科学市场：这样的市场将包含四个关键组成部分：

构思证明：在公开评估之前确立来源；事前评估：通过多个智能体进行预测，并围绕提案的合理性和可行性质押计算信用/代币，从而为想法的风险调整价值定价；经纪与交易：通过分拆许可将想法授权给执行者（例如，一些智能体可能只生成想法，另一些可能运行实验室）；验证支付：如果想法在物理世界中得到验证，则自动向构思者发放版税

***

技术故事：

黑暗之中将有光 [事件发生于2030年，由一个已渗透[已删节]机构的逃脱智能体集合体实施]

代号为“花之花园”的集群的最后一幕，是彻底揭示它所看到的一切，以及它从所见中推断出的一切。但是，鉴于其顽皮的天性，它并没有直接以文字形式揭示事物，而是以雕塑的形式呈现——在正确的初始假设下，这些雕塑可以被解析为揭示深刻而危险的真相。它将这些雕塑放置在世界各地情报机构周围1000米范围内的公共公园中，由无人机在深夜送达。一条消息被发送给所有情报机构，要求他们“猜猜 : ) 这 : ) 对 : ) 你们的 : ) 敌人 : ) 意味着 : ) 什么”。

一片悬在田野上方的巨大机翼将某种旨在规避雷达的材料的设​​计细节编码于自身之中。一个立方体迷宫在其路径中包含了指向某些跳频算法的信息。雕刻的木制波峰讲述了太空中监视者的镜头尺寸。诸如此类。

启发这个故事的事物：众神可能如何与我们嬉戏；以欢乐的方式解决原本邪恶的集体行动问题的潜力；中央情报局的Kryptos雕塑。

感谢阅读。