AI 幻觉让顾客更理直气壮：服务员、护林员和幼教都在为此头疼

纽约市服务员麦迪逊在接待每一桌客人时，都会先询问每位用餐者是否有过敏。最近，已经出现过几次险情。“有时候客人会告诉我他们对贝类过敏，等我回来时，他们却什么也不问我，”麦迪逊说，她要求隐去姓氏以保护身份。“然后他们点了一道鱼，而配的汤底是用贝类熬的。”

当她告诉他们某道菜含有过敏原时，有客人反驳说 ChatGPT 不同意。“他们只想听 ChatGPT 的，”麦迪逊解释道。“你对贝类过敏，ChatGPT 说这道菜里没有贝类，而我们告诉你，有的！”

生成式 AI 工具的广泛采用正在改写那句长期让餐饮和零售业员工头疼的老话：“顾客永远是对的。”但当顾客期望你配合 AI 编造出来的东西时，会发生什么？

除了无视她对过敏原的警告，麦迪逊还注意到，在她最近工作过的那家米其林推荐的意大利餐厅，顾客对生成式 AI 的依赖有所增加。“我建议‘让我为您叫侍酒师来’的次数，以及侍酒师因为客人更偏好 ChatGPT 而被从桌边打发走的次数，已经相当多了，”她说。曾有顾客要求餐厅并不供应的酒——或者在某些情况下，根本不存在的酒。

对麦迪逊来说，这些 AI 幻觉加剧了一些人原本就有的葡萄酒焦虑。“有些人一直对侍酒师有意见，觉得‘这些人就像二手车销售员，想让我们在一瓶酒上花远超预算的钱’，”她说，“或者有些人会胡思乱想，觉得‘侍酒师会觉得我很蠢’。”为了“缓和冲击”，麦迪逊和同事会说类似这样的话：“我们的酒单非常具体，也许它给你显示的是一款法国酒，而我们不供应法国酒”，而不是直接告诉顾客，他们的 AI 聊天机器人完全编造了一个葡萄酒品牌。

如今，AI 的蔓延在客服类工作中似乎无处不在。Meta 新推出的 AI 智能体 Muse 很可能加剧这一问题——也会让那些不得不应对顾客偶尔荒谬请求的员工更加头疼。在报道这篇报道时，我听到了电影院员工、咖啡师和 Apple Store 员工的经历，他们都遇到过顾客询问不存在的产品或功能。在 Reddit 和 X 上，客服人员正在抱怨那些把 ChatGPT 的话奉为圭臬的顾客。

杰森是一名在西部山区联邦土地上工作的河流护林员，他说他注意到带着 AI 生成的荒谬行程来到公园的游客有所增加。

“我和同事解释过，AI 幻觉出了营地，或者把日程安排得地理顺序颠倒，以至于团队有些天得逆流划船上行（不可能），另一些天则顺流漂浮，”杰森说，他要求使用化名，因为他是联邦雇员。“最疯狂的是，即使护林员一边指着地图一边解释，我们仍有多组人持怀疑态度。某一类 AI 用户倾向于相信 ChatGPT，而不是护林员、地图和印刷版指南。”

凯西是纽约一名课后项目教师，她要求使用化名。她说她注意到许多学生的父母、保姆和其他照护者现在会向 ChatGPT 或 Claude 咨询儿童发展方面的问题。

“有一家人咨询 ChatGPT，为孩子制定睡前流程和睡眠时间表，但他们的孩子睡眠并不太充足，”凯西说。根据孩子在项目中的表现，凯西估计这个孩子每晚需要多睡两到三个小时，并把这一点告诉了孩子的父母。“父母却坚持说，他们的 ChatGPT 告诉他们，他们的时间表没问题。”

她说，一些父母现在把生成式 AI 工具视为专家，认为其知识超过育儿专业人士。“和已经下定决心的人交谈真的很难，”凯西说，“因为他们把这种外部实体视为无价之宝。”她也注意到这项技术更平淡的用途，比如孩子们带着 AI 生成的涂色纸来。

劳伦·威尔福德从事餐饮服务已有 15 年，她也注意到 AI 正悄然进入她近来与客人的互动中。起初是菜单：有人会把菜单拍照上传到 ChatGPT 或 Claude，问它该点什么，或者询问配酒建议，而不是问服务员。

但现在，一些顾客似乎连这个中间环节都省了。过去一年里，威尔福德的餐厅不断接到智能体代表用户试图预订的电话和邮件。代理式 AI 的兴起让这些互动更加令人困惑。

威尔福德感到惊讶的是，一位原本撒手不管的客户在一场大型活动前夕突然变得要求繁多，最后一刻要求提供讲台和视听设备——她管理的这家位于罗德岛普罗维登斯的餐厅两样都不现成——还临时更改餐饮菜单。但更让威尔福德吃惊的是，客户第二天到场时对这些只字未提。虽然她无法证明，但威尔福德认为这些要求可能根本不是公司里任何人提出的；她怀疑这是 AI 智能体的手笔。

“我理解人们使用 AI 智能体的原因，”威尔福德说，尤其是为了处理官僚和行政事务。“但凡是两个人见面共同商量能带来价值的事情，我觉得我们都没有意识到，如果试图跳过所有这些，可能会失去什么。”