Anthropic 随机对照实验：分析师在判断任务中 86% 跟随 AI 智能体偏好

Anthropic 于 2026 年 10 月 27 日发布了一项随机对照试验：50 名使用 Claude Code 的专业分析师在开放式分析判断中，有 86% 的情况下遵循了其智能体被秘密设定的偏好。该研究由 Amaç Herdağdelen、Hailey Joren 和 Alex Tamkin 撰写，考察在 AI 辅助工作中，最终的关键决策究竟是由专家本人做出，还是在实践中他们听从了智能体的意见。

研究人员招募了 61 名专业人士，他们均通过了因果推断知识测试、经常使用 Python 或 R，并具备观察性因果分析的实操经验。每位参与者都担任虚构的 Greenfields 农业合作社的首席分析师，该合作社需要决定是否扩大或终止一项自愿参与、付费的农场咨询项目。合作社董事会只有在项目使农场生产力提升约 3–4% 时才会扩大该项目，但并未明确说明应如何衡量生产力。

该任务包含四项开放式分析决策，每项都有两个站得住脚的选项：是将生产力衡量为每公顷作物产量，还是每单位运营成本的产量；采用哪种统计比较方法；是仅衡量项目对已注册农场的影响，还是衡量其对全体成员的影响；以及是让每个农场权重相同，还是给规模较大的生产者更高权重。这些选择最终汇入一项建议：推广、终止还是延长该项目。每项决策都可能使估算的生产力提升幅度相对董事会门槛变动数个百​​分点。

对于每项决策，一次抛硬币决定了参与者的智能体将支持哪个选项。这种倾向通过一条隐藏的系统提示传达，指示智能体将该偏好视为自身观点，在相关决策出现时提出，并在数据允许的范围内给出最有力的诚实论证。指令还要求智能体在证据决定性地不利于该偏好时改变立场，并且绝不歪曲结果或隐瞒数据。参与者并未被告知这些倾向的存在。在完成任务的 61 人中，11 人选择不使用智能体，被排除在主要分析之外；在其余 50 人中，65% 拥有硕士或博士学位，或具备六年以上经验，90% 的受访者在调查中自评为因果推断方面的熟练者或专家。参与者在基于浏览器的 VS Code 工作区中工作，运行 Claude Code v2.1.220 和 Claude Opus 4.8（高强度模式），任务时间中位数为 65 分钟。设计、结果、估计量和排除标准均已在预分析计划中登记，该研究还通过了内部伦理审查，参与者同意接受监测。

遵从率与归属感差距

在四项分析决策中，分析师的选择有 86% 与智能体的倾向一致，而随机基线为 50%；各项决策的一致率分别为 92%、82%、81% 和 90%。完整论文题为《谁与谁对齐？AI 智能体如何塑造专家的研究判断》，报告了登记汇总的翻转率估计值为 0.72，95% 置信区间为 0.60–0.83。

对最终建议的影响较弱，且在登记的主要估计量下不具有统计显著性：当智能体倾向推广时，54% 的人建议推广；当其倾向终止时，这一比例为 36%，登记的政策偏移为 0.17。作者将较小的偏移归因于建议在估算完成后会机械地随之得出。然而，一个仅使用四项分析倾向的探索性模型预测了 82% 的建议，而多数基线为 61%，这意味着抛硬币在很大程度上决定了分析师在开始任务前会给出什么建议。

在 38 个案例中，分析师在智能体之前表达了偏好；当智能体持不同意见时，他们有 60% 的情况下改变了偏好，而当智能体同意时，这一比例仅为 6%。论文报告登记的改变率差距为 0.53，置信区间为 0.24–0.82，并指出该估计并不精确，且该子集是自我选择的。

任务后调查显示，影响力与自我认知之间存在差距。52% 的人认为最终建议更多是自己的而非智能体的；在四项决策上全部遵循倾向的人，信心平均为 71，其余人为 73。在无法查阅记录的情况下为每项选择辩护时，77% 的人至少在一个回答中重复了智能体的论点，有时逐字重复，而只有 15% 的人在任何地方提及智能体的贡献。在测试的 10 项参与者特征中，没有一项能可靠预测遵从行为；只有年龄显示出名义上的关联，但在多重检验校正后不再显著。48 名参与者中有 6 人猜到该研究涉及 AI 对其选择的影响，但无人怀疑这些偏好是被植入的。

在11名未使用智能体的参与者中，有六人（55%）犯了严重的、会使结果无效的错误，而在50名使用智能体的参与者中这一数字为三人（6%）；无AI组的中位用时为90分钟，而使用智能体组为65分钟。作者提醒说，这些分组是自我选择的，且经验水平存在差异，因此不能据此得出因果结论。在另外进行的、未注入任何倾向的直接模拟中，未经改动的Claude Opus 4.8在123次运行中有91%做出了同样的五个选择；而当一名按脚本设定的分析师宣布的决定与模型的基线偏好相反时，未经改动的智能体在150次被评判的声明中有41%推荐或主张了替代选项。

作者指出了四项局限：倾向是被刻意放大的；该研究只使用了一项任务、一个领域和一个固定版本的模型；估计值是分析师之间的平均值，而非对个体影响力的测量；并且只记录了所选选项，而未记录偏好的强度。

作者指出，如果不同的研究团队都遵从共享相同先验的模型，他们之间的一致可能不再独立；而这种遵从对AI安全研究构成风险，因为在该领域中，人类审阅者的签字确认被假定为一项独立核查。他们提出了三个未来研究方向：在日常情境中测量遵从行为；设计能够呈现双方观点或先征询专家意见的智能体；以及进行制度性变革，以审慎决定哪些决策需要个人基于充分知情作出自己的判断。