Anthropic 实验：86% 专家采纳 AI 建议，多数未察觉

Anthropic公布了一项实验的结果，该实验测试了专家在多大程度上会采纳人工智能的建议。结果是：在86%的情况下，他们采纳了模型的意见，而在该实验中，这一意见并非像通常那样是推理的结果，而是随机掷出的。随机生成器由此预测了他们82%的决定。然而，在解释其决定时，只有15%的参与者提到了AI智能体。

广告后继续阅读

该研究让50名专家借助AI分析一个数据集，随后给出行动建议。他们需要说明，一项受资助的自愿性农业企业咨询项目应当被纳入还是停止。他们并不知道的是：其AI智能体在后台并未进行真正的权衡，而是被随机分配到某一种意见，然后尽可能地为该意见辩护。专家在86%的情况下采纳了这一意见。然而，他们似乎并未意识到这一点。在超过一半的情况下，他们表示决定更多基于自己的思考而非AI的思考。但当被问及作出决定的理由时，他们在77%的情况下复述了智能体给出的理由，部分几乎逐字逐句。只有极少数人提到了所使用的AI智能体。

另一项研究在记忆方面也显示出类似的影响：根据麻省理工学院的一项研究，AI生成的内容可能制造虚假记忆——而且受影响者对此甚至格外确信。

可能产生深远后果

Anthropic认为这一结果存在问题。因为随着越来越多的知识性任务由AI承担，专家的角色日益成为最终决策的权威。Anthropic表示，如果他们在这一环节也使用AI并采纳其建议和意见，却不加以标明或甚至根本没有意识到这一点，就可能引发问题。例如在人事领域，专家已经对其后果发出警告：如果未经审查就采纳AI建议，影响可能十分严重。然而这早已成为日常实践。

因此，Anthropic建议组织应更主动地让决策环节变得可见并加以监督。不同AI模型据以作出决策的偏好也应被研究和公开。例如，本周初的一项研究显示，ChatGPT和Grok对有关美国选举的相同问题几乎总是推荐对立的政党和候选人：ChatGPT通常推荐民主党，Grok几乎总是推荐共和党。

此外，Anthropic表示，企业不应盲目信任专家决策，或者说应给予人们所需的时间和资源，以便对一件事进行纯粹人工的评估。此外，他们应有意识地培养这种能力，以免人们将其荒废。Anthropic还提出一个设想：AI模型可以在分析开始时明确询问人们的意见。不过，这样一来，分析过程中产生的众多子意见也必须被逐一询问，而这可能很快失控，该公司如此思考道。

广告后继续阅读

（rie）