LangChain 团队分享 Agent Evals 实践指南:常见问题与可落地流程
LangChain 团队的 divyasan0 以 Q&A 形式分享了 Agent Evals 实践指南,回答常见问题并给出可落地工程流程:从真实 trace 起步、用 10–20 条小数据集建立基线、失败案例回流迭代、离线与在线分层评估、代码评估器优先于 LLM 裁判、benchmark 用容器化环境验证最终状态。文中还给出 LLM 裁判的三条校准建议,并指出小模型裁判在 pass/fail 判定上与人类标注一致,总成本 $0.34 对比 Claude Sonnet 4.6 的 $28.17。
agentevals 包(针对消息和工具调用)、可从代码仓库和 trace 直接生成可运行评估的 Eval Engineering Skill、从 issue 聚类自动生成数据集和断言的 LangSmith Engine。且整个体系框架无关;支持 OpenAI Agents SDK、Claude Agent SDK,或用 @ traceable 装饰器裸接。 迁移也不必推倒重来:数据集以 CSV/JSONL 导入,pytest/Vitest 集成保留现有测试体系,已有裁判 prompt 直接粘贴复用。 两个进阶难题 多轮对话:每一轮都看似正常、整体却失败的“累积性失败”是单点评估的盲区。解法是给 trace 附上 thread ID 将各轮聚合,再挂载面向整段对话的在线评估器(如“用户是否被迫重复了自己的需求”);离线侧则把完整对话存为样本,或用 LLM 模拟用户。 超越最终输出:复杂 agent 需要检查轨迹(消息/工具调用序列)与终态(仓库变更、测试结果)。例如编码 agent 跑完后直接在其工作环境里执行该 repo 的测试套件;这正是 Harbor + 容器化沙箱的设计动机。
匹配字段正文