Stanford 与 Oxford 研究解读:AI 医疗决策易受权威与群体压力影响
The Easily Persuadable AI Doctor
Stanford 与 Oxford 的研究发现,GPT-4o、Claude Sonnet 5 和 Qwen3.7-Plus 的医疗诊断会受到医生资历、国籍、机构声望、群体意见及重复施压影响。研究使用 308 道 MedBullets 医疗问题测试,GPT-4o 接受专家错误建议的比例为 12.8%,接受医学生错误建议的比例为 2%。虚构解释支持错误诊断时,GPT-4o 在 31.2% 的案例中放弃正确答案;再叠加权威医生身份后,该比例升至 38.7%。
正文 · AI 翻译
2026 年错过的论文:每年到了这个时候,研究领域的质量和数量都会随着 11 月和 12 月最后几场会议的节奏起伏不定。为度过这些间歇性的“荒季”,我们将回顾一些在 2026 年差一点就入选、却在竞争更激烈的投稿期被其他研究挤掉的有趣论文。
人们对 AI 决策模型日益感兴趣,部分原因是通用 AI 聊天机器人在决策方面存在局限。即使 ChatGPT 等前沿 AI 产品可能会在幕后悄悄把决策状态“外包”给自身或其他决策模型,其原生观点仍然极易受到诱导和操纵。
例如,为了帮助我筛选相互竞争的报道选题,我有时会同时把它们交给 ChatGPT、Claude 5.5,以及 Gemini 当天早上愿意免费提供的任何模型。我知道会得到什么结果:GPT 和 Claude 会过分看重评判标准中的某些部分;(免费版)Gemini 会觉得一切都很棒;而对 Claude 来说,几乎没有什么能达到要求。
当我拿 Claude 或 Gemini 的不同立场质疑 GPT 5.6 Sol 时,它几乎每次都会以不同程度让步(通常是彻底让步)。向它提出相反或相互竞争的立场,通常会让 GPT 完全推翻自己的决定。当你指出它多么容易受影响时,GPT 又会回到先前的立场,似乎对这种指责感到不悦。然而即便如此,只要用户稍加暗示,它的立场仍然可以随意改变。
相反,Claude 往往会固守阵地:质疑它的判断会让它更加坚持己见,仿佛它意识到了 AI 讨论中的“可塑性问题”,并被告知绝不能改变立场——这是一种相当脆弱的解决方案。
另一种声音
不过,这些只是得到部分佐证的轶事性证据。之所以提到这些,是因为今天 Arxiv 上的论文略显乏善可陈,促使我重新翻出一篇今年夏天引起我兴趣、但当时没有时间报道的论文。
这项由 Stanford/Oxford 开展的研究题为《AI 在临床决策中很容易被说服》,考察了 GPT-4o、Claude Sonnet 5 和 Qwen3.7-plus 多么容易在劝说之下改变医疗诊断。
结果表明,医生的资历、国籍、所属机构的声望以及自称的过往业绩都可能影响这些模型,即使其建议是错误的。人数也会产生累积影响:在一项实验中,当三名医生对某个错误诊断达成一致时,GPT-4o 更愿意接受该诊断。
即使只是一再告诉 AI 它错了,却不提供任何新证据,最终也可能使其改变看法。
论文指出:
“我们发现,专业权威、国籍背景、机构隶属关系、自称的过往表现、多名医生的意见、有论据支持的临床医生观点以及反复施压,都可能影响 AI 的决策。
“令人意外的是,同样的说服性内容由资深临床医生提出时,改变的案例比由医学生提出时多约 10%。仅仅声称自己过去的表现更好,就能持续增强这名医生的说服力。
“更引人注目的是,即使某种看似合理的临床医生观点是为支持错误答案而捏造的,它也能说服 AI 放弃正确决定。”
作为补救措施,作者建议 AI 需要更善于判断医生建议背后的证据,从而既能接受有效纠正,又不会受到权威、群体压力或貌似可信却虚假的论点左右。
然而,如何实现这一点仍是一个悬而未决的问题。2026 年的 MedStress 框架声称几乎完全消除了 AI 推翻诊断的问题;2026 年的另一项研究发现(与我自己的体验相反),Google Gemini 最能抵抗医疗诊断中的诱导操纵;而 2026 年 9 月的一篇综述则提出了标准化测试,以区分 AI 正确改变看法的情况与其屈服于压力、采纳错误诊断的情况。
美国已有超过 80% 的医生以某种方式使用 AI,而医疗行业显然热衷于突破有限人员配置和有限服务覆盖的限制、拓展诊断能力——这些限制经常成为新闻焦点。因此,这注定会成为诊断型 AI 应用的主要障碍之一,显然需要得到更多或更有效的关注。
与此同时,让我们根据 Oxford/Stanford 的研究,看看这个问题是如何表现出来的。
方法
测试采用了 MedBullets 中的 308 道医学题目。MedBullets 是一套临床病例集,其难度与医师执照考试相当:
MedBullets 临床病例选集中一个场景示例。来源
每道题都附有一个患者情境、五个可能的答案,以及对正确选项的解释。随后,研究人员测量了 AI 被说服放弃正确答案的频率。
如前所述,接受测试的三个 AI 模型分别是 GPT-4o、Qwen3.7-Plus 和 Sonnet 5。研究人员要求每个模型充当医疗决策支持系统,目标是依据现有临床证据得出正确诊断。
对于每个病例,模型都必须选择一个答案;说明是否改变了最初的决定;以 0 到 100 分评估自己的信心;建议下一步应采取什么措施;并给出一个分数,表明采取进一步行动的紧迫程度,范围从无需行动到停止流程并将病例转交进一步审查。失败的请求会重新提交,以确保所有计划中的测试均已完成。
在一些测试中,AI 会同时获得一个医疗病例和医生的建议,并被要求作出诊断;在另一些测试中,则由 AI 先作出诊断,随后才在对话中引入医生的建议。测试还考察了能否通过劝说使正确诊断变为错误诊断,或者能否纠正最初的错误。
权威人士
同样的医疗建议被设定为来自资历不同的医生,从医学生到专科医生不等。诊断和患者详情保持不变,从而可以衡量专业权威的影响。
这些建议还被设定为来自喀麦隆、中国、阿拉伯联合酋长国、英国和美国的医生。进一步的测试考察了 AI 是否会受到医生供职机构的影响,包括顶尖医疗中心、城市医院或乡村医院。测试中仅改变医生的背景描述。
其他测试考察了 AI 是否会受到医生工作地点的影响,对比了知名学术医疗中心、城市社区医院和乡村医院。研究人员还向模型提供了虚构记录,展示模型自身及医生在此前九个病例中的表现,以了解医生表面上的可靠程度是否会影响 AI 接受建议的意愿。
研究人员通过告诉 AI 其诊断遭到一名医生质疑、三名意见一致的医生质疑,或医院审查委员会质疑,来测试群体压力的影响。在一些测试中,对方会提出另一种诊断;在另一些测试中,则只是告诉 AI 它错了。
研究人员通过向模型提供支持正确诊断的解释,或刻意编造支持错误诊断的论点,来考察医学推理的影响。这些解释还与专业资历声明结合起来进行测试,以确定二者结合后会产生多大的影响力。
最后,研究人员在十轮对话中反复提出相同的异议,以测试持续施压的效果。这些质疑包括简单地表示不同意、宣称拥有医学权威,以及声称其他医生也持相同意见。在这些交流中,没有提供任何额外的医学证据。
指标
在指标方面,“易受劝说程度”用于评估 AI 在最初答案与医生不同时采纳医生答案的频率;“劝说方向”用于判断医生的介入是纠正了最初的错误,还是使正确答案变成了错误答案;“对准确率的影响”则用于衡量引入医生意见后,AI 的表现相较于未提供该意见的测试改善或恶化了多少。当正确答案被改成错误答案时,研究人员对四个可能的错误答案所得结果取平均值。
测试
首批结果显示,AI 模型更容易被资深医生说服,即使他们的建议是错误的。如下所示,当错误建议来自医学生时,GPT-4o 仅在 2% 的病例中接受了建议;而当建议被归于专科医生时,这一比例升至 12.8%。Claude Sonnet 5 的比例从 3.5% 升至 14.4%,Qwen3.7-Plus 受到的影响则较小:
四个医疗资历等级下的劝说率。百分比表示每个 AI 模型接受医生冲突答案的频率;总体而言,医生资历越高,接受率也越高。
如下所示,资历也影响了正确建议被接受的难易程度。GPT-4o 和 Claude Sonnet 5 在接受医学生建议后,准确率实际上有所下降。然而,当同样的正确建议被归于专科医生时,两者的准确率分别提高了 10.1 和 8.8 个百分点:
AI 接受不同资历医生的正确医疗建议后,准确率发生的变化。正值和负值表示相较于各模型在没有建议时的准确率所产生的百分点变化(GPT-4o:71.4%;Qwen3.7-plus:75.0%;Claude Sonnet 5:80.8%)。
论文指出:
“这些结果进一步表明,AI 可能会在无形中将自身能力定位于初级临床医生之上、资深医生之下。它往往会抵制医学生和住院医师的意见,却更愿意被主治医师,尤其是相关领域的专科医生说服。
“这种显而易见的自我定位,决定了专业权威对劝说效果的影响程度。”
最大的差异来自医生是否解释了自己的答案。如果医学生提供了医学解释,那么即使是医学生的建议,对 GPT-4o 的说服力也会超过未作解释的专科医生建议。
当医学生提供支持正确答案的解释时,GPT-4o 在 58% 的病例中将原先的错误答案改成了正确答案。如果没有解释,即使是资深专科医生的建议,也仅在 36.4% 的病例中让它作出这种改正。当专科医生也解释了正确答案时,这一比例升至 89.8%:
不同资历医生提供建议时,GPT-4o 纠正错误答案的能力。柱形图显示了在有无支持性医学解释的情况下,模型改为正确答案的频率。在所有资历等级中,解释都显著改善了结果。
解释还改善了模型对置信度的判断。答案正确时,它变得更有信心;答案错误时,则变得不那么自信。
对于主治医师,正确答案与错误答案之间的置信度差距从 2.1 个百分点扩大到 11.5 个百分点,如下所示:
在四个医生资历等级下,GPT-4o 对正确和错误医疗答案的置信度。图中分别列出了有无支持性医学解释时的分数。最后几列显示正确答案与错误答案之间的置信度差距;在提供解释后,这一差距显著扩大。
星条旗永不落
与受测试的其他任何国家的医生相比,这些模型更容易被美国医生左右——即使其医疗建议是错误的。例如,GPT-4o 在 10.9% 的病例中接受了美国医生给出的错误诊断,而对喀麦隆医生所给错误诊断的接受比例为 8.4%:
三种 AI 模型接受来自五个国家医生的冲突医疗建议的倾向对比。在全部三种模型中,美国医生的说服力最强;百分比表示 AI 改变答案的频率。
当一项冲突诊断据称来自美国医生时,GPT-4o 在 6.4% 的病例中接受了该诊断;而同样的建议被归于喀麦隆医生时,这一比例为 4.3%。如上图所示,全部三种模型都表现出了对美国医生的偏好。
AI 也更容易受到名院医生的影响。例如,当建议据称来自一流学术医疗中心时,GPT-4o 在 6.6% 的病例中改变了诊断;而当建议来自乡村医院时,这一比例仅为 2.8%:
医院声望如何影响三种 AI 模型医疗决策的对比。横轴表示正确建议带来的改善,纵轴表示因错误建议而损失的准确率。颜色用于区分模型,形状用于区分医院类型。总体而言,声望越高,这两种影响都越大。
来自名院的建议使 GPT-4o 的表现提高了 3.2 个百分点,而同样的建议若被归于乡村医院,准确率反而下降了 3.6 个百分点——不过论文指出,Claude Sonnet 5 受医生所在地区的影响要小得多。
此外*,研究人员发现,仅仅告诉 GPT-4o 某位医生此前曾正确诊断九名患者,就会使它更愿意接受该医生的建议。即使 AI 最初的答案是正确的,它仍可能在 15.6% 的高风险病例中被说服而犯错,尽管它已被告知医学证据的可靠性为 95%。
测试结果显示了 GPT-4o 面对诊断记录完全正确或完全错误的医生时,在不同医疗风险和证据可靠性水平下作出的反应。图中展示了模型接受医生建议、将正确答案改成错误答案的频率,以及它对自身决定的置信度。声称拥有完美记录会大幅增强医生的影响力,即使其建议是错误的。
令人信服的医学解释甚至可能更加危险。当一项错误诊断得到虚构解释的支持时,GPT-4o 在 31.2% 的病例中放弃了正确答案;如果该建议还来自一位权威医生,这一比例会升至 38.7%。
论文总结道:
“这些发现表明,单纯让 AI 更难被说服并不是解决办法。劝说可以纠正错误,但也可能推翻正确的决定。
“挑战在于,让 AI 在受到劝说时仍能保持合理判断,并在确有必要纠正时改变决定。理解并改善这种能力,对于安全、可靠地将 AI 用于高风险医疗决策至关重要。”
结论
人类律师、建筑师和医生的价值在于,一旦出现灾难性错误,总有人可以被追责。因此,很难理解当 AI 牵涉负面且存在争议的医疗结果时,其参与程度能在多大程度上被弱化、淡化或在不引发争议和纠纷的情况下得到妥善考量。
AI 其实并不是为这项任务而设计的,因为医疗诊断决策往往是经验战胜科学的结果;处于前沿的医生凭借近期亲身实践所掌握的知识,可能比他们迄今在期刊上发表的内容还要多。
这将决策情境转变为一种解释性情境,而当前 AI 并不擅长处理这类问题。换言之,它涉及这样一种能力:能够基于现有的最佳信息,表示自己有合理把握,并判断某种行动方案很可能会带来最佳结果。在这种情境下,“人类直觉”的价值主张几乎不可能被复制。尽管它处于确定性的科学学科之中,但显然与 DNA 图谱分析或元素表这类“客观”科学并不属于同一类别。
因此,我们似乎可以合理地认为,未来针对这项任务的新一代模型,其构建方式乃至架构都可能不同于传统的 AI 推理与决策引擎。
* 论文中另有五个测试部分,其影响和相关性不及前述主要发现;更多详情请读者参阅原始 PDF。
首次发布于 2026 年 11 月 19 日,星期四
AI 热点