什么是 Human in the Loop（HITL）？人机协同的 AI 工作流

隆重推出 Eleven v4，认识 Eleven v4，这是我们迄今为止最具情感表现力的模型。

Human in the Loop（HITL，人机协同）是一种用于 AI 模型的工作流，它依据明确的运营边界，在自动化系统与人类专家之间分配任务。在 HITL 系统中，AI 负责处理可预测的、基于规则的任务，而人类专家则保留对复杂决策、合规要求和边缘案例的责任。

对企业而言，HITL 提供了一种切实可行的方式，既能自动化日常工作，又能在需要人类判断时让人参与其中。一个 AI 智能体可以查询账户详情、收集理赔信息、发送入职表单或预约时间，然后将不确定或敏感的案件标记出来，交由人工审核、批准、纠正或接管。

除了实时工作流之外，HITL 也适用于机器学习开发。人们可以为训练数据打标签、评估模型输出、纠正错误，或提供有助于改进模型表现的反馈。在这一语境下，人类是模型训练或改进过程的一部分，而非实时业务流程中的一环。

在本文中，我们将展示在 AI 系统和 AI 工作流中人类参与应处于何处、为何重要，以及有效的 HITL 在实践中是什么样子。

摘要

人机协同 AI 依据预先定义的职责，在 AI 与人类之间划分工作流。
团队将人工审核、审批、交接和异常路径构建到工作流中，然后在部署后按需完善这些规则。
HITL 通过在需要之处将自动化与人类判断相结合，可以提升准确性、效率和风险管理水平。

什么是人机协同？

人机协同是一种系统，其中人类被主动纳入流程，以手动做出决策或监督 AI 工作流。它的运作方式是将自动化任务处理与内置规则相结合，当满足既定条件时，暂停工作流或将其交由人工处理。

人类参与既可以是工作流中预先规划的一环，也可以是对 AI 不应自行处理的情况作出的响应。团队会依据政策、风险、客户体验以及所涉决策的类型，提前定义这些人工介入点。

常见的人工介入点包括：

必需的审核与审批：由人工审核或授权那些承担财务、法律、合规或运营责任的决策。
受监管的步骤：智能体工作流在法律、政策或职业标准要求人工参与时，将决策或文档转交给具备相应资质的员工。
敏感或高价值的沟通：由人工处理那些涉及谈判、安抚、关系维护或需要审慎判断的对话。
角色边界与例外情况：超出 AI 被分配角色的请求、涉及异常情况的请求，或缺乏既定应对方式的请求，都会转交给人工。
客户主动请求转人工：当客户要求与真人沟通时，可以将其转接给在线团队成员。

当工作流进行中情况发生变化时，人类也可以动态介入。相互冲突的信息、客户新提出的顾虑，或原始规则未预料到的情形，都可能触发交接，即使该任务最初是沿标准路径进行的。

人工介入并不一定意味着自动化流程必须从头开始。一旦团队成员做出决策或解决问题，AI 就会将更新保存到记录中，发送下一项所需的沟通内容，并继续执行工作流的其余部分。

Five human handoff triggers and a workflow that continues after a person takes over.

人机协同在机器学习中意味着什么？

人机协同机器学习沿用与 HITL 相同的原则，但应用于开发阶段。人类不是在实时工作流中介入，而是在模型开发过程的既定节点参与其中。

研究人员可以为训练数据打标签、评估模型响应、纠正错误，或提供有助于在部署前改进模型行为的反馈。当准确性依赖于专业知识或判断时，领域专家也可以审核输出结果。

将人类融入 AI 工作流的主要优势

对企业而言，HITL 意味着更少的代价高昂的错误、对敏感或受监管案件更一致的处理，以及更快的日常工作处理速度，同时不会让 AI 对高风险决策拥有不受约束的控制权。

以下是使用 HITL 系统的一些主要优势和应用场景。

What is Human in the Loop (HITL) by the numbers. AI handles intake while humans focus on expertise: $1.5M intent, 93% success, 15k+ calls.

提升准确性与决策质量

HITL 通过将 AI 在结构化任务上的一致性，与人类在模型无法单独可靠处理的部分上的判断相结合，来提升准确性和决策质量。AI 可以一致地处理结构化任务、收集决策所需的信息，并准备常规回复或建议。

Valiant 的非工作时间智能体 Sophia 负责处理结构化的信息采集，然后在适当情况下将案件转交给人工经纪人。Valiant 的智能体基于 ElevenAgents 构建，成功识别出超过 150 万美元的商业贷款意向，其中 Sophia 处理了约 29% 的非工作时间来电。

当信息具备以下特征时，人工输入可以提升决策质量：

不完整或相互冲突
依赖于上下文或解读
依赖于谈判与关系建立
依赖于专业知识

更好的结果可以减少代价高昂的错误和可避免的返工，尤其是在涉及财务、监管或客户后果的情形中。

降低风险并支持合规

HITL 可以通过确保受监管或高后果的决策在推进之前送达合适的人员，帮助组织降低合规风险。

AI 通过以下方式支持程序性合规：

发送所需文件。
收集信息。
检查必填字段是否完整。
检索政策或披露信息。
记录已完成的步骤。
将案件转交给合适的人员。

当法规要求进行解读、需要解决例外情况，或必须做出承担法律责任的决策时，责任仍由人类承担。

例如，英国保险公司 Admiral 为其客户语音智能体设定了明确的适用范围边界。Admiral 将脆弱性和欠款案件转交给人工处理，并在上线前以高验证标准测试受监管的 AI 工作流。

在保留人类专业能力的同时提升效率

AI 可以处理重复性的行政工作、收集信息、准备记录，并推动常规案件向前推进，而无需在每一步都有人参与。对企业而言，其结果可能是更短的处理周期、更少的行政积压，以及让员工有更多精力处理直接影响客户、收入或风险的工作。

Finch Legal 借助 ElevenAgents 将通话成功率从 59% 提升至 93%，同时将规模扩展至每月 15,000 通以上的通话。部署智能体来处理这些流程，意味着人工坐席在电话上花费的时间约为以往部署的六分之一。只有在案件需要其专业知识时，人工才需要介入，从而将他们保留给高价值的时刻。

人在回路系统的挑战与考量

即使是设计良好的人在回路系统，如果交接不当，或接手的人缺乏足够的上下文来采取行动，也可能失效。在自动化速度与人工监督之间取得平衡，归根结底取决于工作流设计。

当人在回路系统未能按预期运行时，问题往往出在决定人员何时进入流程以及他们接收哪些信息的规则上。

以下是人在回路系统中的一些主要挑战。

Four HITL failure modes and an example of a specific handoff trigger.

1. 模糊的交接触发条件

为 AI 智能体编写诸如“转交困难案件”或“将异常请求发送给人工坐席”之类的主观指令，可能导致不必要的交接，或让 AI 继续处理本应有人参与的情况。

例如，与其告诉 AI 客服智能体 “转交复杂的账单问题”，团队可以设定这样的规则：“当客户对某笔收费提出异议且账户记录不匹配时，转交该案件。”详细的护栏为 AI 智能体提供了可遵循的具体条件，这可以减少不必要的交接，并降低 AI 继续处理需要人工介入的案件的风险。

团队可以为超出 AI 智能体职责范围的请求设定同样具体的交接条件，例如信息冲突或缺失、客户要求人工坐席，以及其他需要人工介入的情况。

2. 交接过程中的上下文丢失

当 AI 智能体将实时客户交互转交给人工代表时，如果没有一并传递会话历史，员工就不得不从头重新询问来电者。这种草率的转接会造成直接的摩擦，令客户沮丧，并延长交互时间。

客户可能花费数分钟向 AI 智能体解释账单问题并验证其账户，之后该问题才需要人工坐席处理，但如果对话记录、账户详情以及已执行的操作没有随通话一并传递，客户就不得不重复整个过程。

为避免交接过程中丢失上下文，请确保系统在交接时将 AI 智能体已收集的信息直接传递给人工代表。

3. 审批步骤过多

对常规、低风险任务要求人工签核，可能会拖慢 AI 智能体本可安全处理的工作。如果员工必须批准每一次标准预约变更、基础信息采集表或常规状态查询，人工审核就开始增加工作量，而不是帮助团队管理更高风险的案件。

团队可以通过提前确定哪些操作真正需要人工审核，并让较低风险的任务自动继续，来避免不必要的检查点。例如，常规预约变更或标准状态查询可以在无需批准的情况下继续，而账单争议或政策例外仍转交给人工处理。

4. 从不更新的规则

上线前合理的交接规则，在 AI 智能体开始处理真实对话后可能需要改变。反复出现的交接可以揭示原始工作流在哪些地方过于谨慎、AI 智能体在哪些地方缺乏信息，或哪类新请求需要自己的规则。

例如，如果 AI 智能体不断转交常规的配送问题，因为客户以原始工作流未预料到的方式表述这些问题，团队可以更新 AI 智能体的知识或交接规则，使这些请求保持自动化处理。

将人在回路规则视为可动态调整的，可以让团队安全地自动化更多常规工作，同时将人工监督集中在真正的边缘案例上。

人在回路与人在环上（human on the loop）的比较

HITL 和人在环上（HOTL）是两种不同的人工监督 AI 的模式。

HITL 要求人员在特定决策或操作继续之前参与其中。它最适合较高风险或复杂的工作，即合规、财务责任、临床判断或政策例外需要人工审核或批准后工作流才能继续推进。

HOTL 让 AI 无需等待人工批准即可工作，但由人员监控系统并在需要时介入。它最适合既可观察又可逆的低风险工作，例如一般信息性问题、订单状态更新，或其他不需要人员批准结果的低风险交互。

主管可以观察整体活动，仅在需要关注时作出响应。以下是 HITL 与 HOTL 的主要区别。

方式

人工角色

操作示例

HITL

人员必须在规定的检查点进行审核、决策或批准，AI 才能继续。

AI 智能体准备一份保险理赔，但人工理赔专家必须在决策推进前审核任何承保例外情况。

HOTL

AI 独立工作，由人工监督，必要时介入。

一个 AI 语音智能体处理常规来电，而联络中心经理监控活动，并在对话需要人工关注时介入。

Human-in-the-loop approves high-risk work; human-on-the-loop monitors low-risk work.

人在回路 AI 示例

HITL 可以根据哪些决策、审批或对话需要人工参与而采取不同形式。

银行业

Customers Bank 正在推出 ElevenAgents 用于账户查询、卡片服务、转账、开户和员工辅导，并且每个智能体都内置了人工转接路径。AI 智能体可以处理常规的银行支持工作，而当对话需要个人关注或需要做出超出智能体职责范围的决策时，人工银行人员仍然可以介入。

保险业

Insurely 使用 AI 语音智能体用于保险销售和客户服务，包括回答问题和帮助客户完成报价。当客户需要人工服务时，AI 智能体会转接通话或安排回电。

医疗健康

mdhub，一个行为健康平台，使用 ElevenAgents 进行患者入院登记与支持。AI 智能体负责采集患者信息、核实保险、为患者匹配医疗服务提供者并安排预约，而医疗专业人员则负责确定治疗方案并做出需要临床判断的决策。

金融科技

Klarna 是一家全球数字银行和支付服务提供商，它使用 ElevenAgents 语音 AI 智能体作为第一线为美国客户提供电话支持AI 智能体处理信息类请求并收集相关上下文，当问题变得更加复杂或敏感，或当客户希望与真人交谈时，再将对话转交给人工坐席。

创意

对于内容和创意工作， ElevenProductions 采用 HITL 方法进行 AI 辅助制作，人工编辑AI 负责转录和 AI 生成有声书制作等工作，而人工编辑则负责审核作品、进行修正并批准最终结果。

在另一种人机协作中，失去歌唱能力的作曲家和歌手 Patrick Darling 使用 ElevenLabs 语音技术来重新演绎自己的音乐.

开始使用 ElevenAgents

ElevenAgents 为企业提供了多种方式来界定 AI 智能体可以处理哪些事务，以及哪些环节仍应由人工参与工作流。智能体可以使用公司知识和业务工具、遵循既定工作流，并在防护边界内运行。人工转接可以将对话及其上下文移交给真人，而模拟则帮助团队在正式上线前测试其行为。

开始使用 ElevenAgents 构建具有清晰工作流边界、人工转接以及测试与监督控制功能的 AI 智能体。联系销售来界定你的实施范围，或者注册来创建一个智能体，亲自试一试。

人机协同常见问题解答

人机协同在 AI 与人工之间划分责任。AI 负责工作流中已定义的部分，而在流程需要判断、审批或问责的环节，仍由人工参与。

HITL 工作流使用预定义的触发器，在特定节点将人员引入流程。AI 在其职责范围内处理工作，并在满足其中某个触发器时移交该案例。随后，一旦人员完成审核或解决问题，工作流便从该节点继续。

在正常对话过程中不会。ChatGPT 的响应工作流中并未内置人工参与机制，因此不会在既定节点引入人员来审核、批准或接管任务。人工反馈用于模型开发和评估阶段，这属于另一种形式的 HITL。

HITL 可以提高准确性、支持合规，并让人员参与需要判断或问责的决策。人工审核可以在错误或可疑输出影响客户或业务流程之前将其发现，而预定义的移交和审批节点则限制了 AI 对高风险决策的控制程度。HITL 还能帮助组织管理例外情况，并降低幻觉或错误响应的影响，同时不会拖慢 AI 能够安全处理的常规工作。

作者