←新闻详情

The New Stack更新于 10月25日 22:15

Ramp 六周自建 AI 智能体 harness Laminar,LangChain CEO 称其反映行业转向

Ramp built an AI agent harness in six weeks — and LangChain’s CEO says it’s part of a bigger shift

AI 导读

Ramp 用六周时间自建内部智能体 harness Laminar,把智能体执行、沙箱、可观测性和异步工作流整合到同一平台,目前支撑该公司所有智能体产品。Ramp 工程师 Sam Kronick 称,团队评估过托管智能体 API、开源框架和第三方平台后,为摆脱单一模型供应商锁定、获得更好的可观测性而选择自研。LangChain CEO Harrison Chase 在 X 上肯定其会话与沙箱分离、异步智能体等设计,并称 LangChain 的 Deep Agents 也在做类似工作;文章还提到 LangChain 在 Open SWE 中按任务复杂度路由模型,973 个智能体线程的中位 LLM 成本从每线程 2.61 美元降至 0.94 美元。

推荐理由

AI 评分 58

Ramp 自建智能体 harness 的取舍与 LangChain 的模型路由数据,呈现了企业自建还是采购基础设施的权衡。

主题

标签

正文 · AI 翻译

Ramp花了数月时间测试托管智能体API、开源框架和第三方平台,最终得出结论:自己构建会更好。成果就是Laminar,这是一个内部智能体harness,六周就完成了首个版本,如今为这家金融科技公司的所有智能体产品提供支持。

“我们研究了市场上的其他产品,并决定通过自研,我们可以做得更好、行动更快,并且与我们想要前进的方向更契合。”

“我们研究了市场上的其他产品,并决定通过自研,我们可以做得更好、行动更快,并且与我们想要前进的方向更契合,”该平台背后的Ramp工程师Sam Kronick在公司工程博客中写道。

在周二的博文中,Ramp详细介绍了Laminar如何将智能体执行、沙箱、可观测性和异步工作流整合到单一平台之下。这一架构引起了LangChain CEO Harrison Chase的注意,他在X上的帖子中称赞了若干设计选择,同时指出LangChain的Deep Agents中也有类似工作正在进行。

Ramp和LangChain从不同方向着手解决这个问题,但两者都指向智能体基础设施领域的一次更大转变。随着harness承担更多责任,企业必须决定希望自行构建和维护其中多少基础设施。

Ramp为何选择自研

Ramp不想被锁定在单一模型供应商上。它需要能够根据成本、速度和性能灵活切换模型,同时更好地了解其智能体的行为方式。工程师们已经在翻查追踪记录,以找出不必要的工具调用、臃肿的上下文和错误,但现有的可观测性工具让这件事变得比必要的更困难。因此,Ramp在Laminar中构建了自己的调试界面。将开发保持在内部也意味着harness团队可以直接与产品工程师合作,而不必等待供应商做出更改。

Chase认同Ramp的优先事项,尤其是模型独立性和可观测性,这两点也是LangChain在自身工作中一直强调的。此外,Laminar架构中还有其他部分引起了他的注意。

将开发保持在内部也意味着harness团队可以直接与产品工程师合作,而不必等待供应商做出更改。

会话与沙箱分离

Laminar运行着从客户服务智能体到公司云编码智能体Ramp Inspect,再到负责长时间运行、协作式工作的Glass的一切。支持这些产品需要一个能够管理持久会话、人工审批以及跨环境工作的harness。

Chase重点提到了Kronick的观察:生产级harness所做的远不止运行一个简单的执行循环。“+100赞同这一点,”他写道,并指出LangChain在Deep Agents上的投入。

Ramp将智能体会话与代码运行的沙箱分开。对话历史和執行状态独立存储,使沙箱能够在不中断会话的情况下启动和关闭。

Chase认为将沙箱作为工具的做法是一种日益增长的趋势,并指出Deep Agents采用了类似设计。它还将凭证和编排保持在沙箱之外,随着开发者努力隔离运行不可信代码的智能体,这是一个重要考量。

默认异步智能体

Laminar让智能体无需等待每一步完成即可继续工作。Chase将非阻塞异步智能体描述为未来,并表示LangChain正在为Deep Agents开发类似功能。

Ramp的Connectors Service也引起了他的注意。它将身份验证、凭证、访问控制和工具执行集中在一个共享API之后。

Chase表示LangChain正在为托管版Deep Agents探索类似功能。将这些功能集中化也为平台团队提供了一个统一的位置来管理访问和凭证处理,而不是为每个智能体单独实现。

The harness也是团队可以削减推理成本的地方,LangChain已直接论证了这一点。在10月1日的一篇工程博文中,它描述了将模型选择移入其开源编码智能体Open SWE的harness中。路由器检查初始请求,并根据预期任务复杂度分配三种模型之一,将最简单的任务发送给GLM-5.3-Flash,中等任务发送给GPT-5.6 Sol,要求最高的请求发送给GPT-6 Astra。

路由削减推理成本

在973个智能体线程中,路由器将每线程的LLM成本中位数从2.61美元降至0.94美元,与每个任务都使用GPT-6 Astra相比下降了64%。节省并未伴随可衡量的性能损失。路由线程的合并拉取请求率为29.2%,对照组为27.3%,这一差异在统计上不显著。90%的请求流向了两个较便宜的模型层级。

LangChain认为,在harness内部进行路由比在通用LLM网关处效果更好,因为后者对智能体正在做什么的上下文了解更少。

LangChain认为,在harness内部进行路由比在通用LLM网关处效果更好,因为后者对智能体正在做什么的上下文了解更少。harness已经知道涉及哪些提示、工具和领域上下文,从而为做出这一选择提供了更多信息。LangChain使用模型选择中间件在每个线程开始时选择模型。

这些结果并不能告诉我们自建harness是否比使用现有框架更便宜。Ramp并未参与该实验。但它们确实表明,通过在harness层面做出更明智的模型选择,企业可以节省多少成本,尤其是当其智能体处理需求差异很大的任务时。

harness归属困境

Ramp的决定还显示了编码智能体如何改变了基础设施成本。Kronick表示,智能体生成了Laminar的全部初始代码,由经验丰富的工程师指导架构和实现。

但六周内构建出第一个版本是一回事,维护它则是另一回事。Ramp 仍然需要工程师来处理故障、更新平台并支持其产品团队。该公司也尚未公布运营成本对比或与竞争平台的基准测试,这使得人们难以判断自建是否更便宜。

LangChain 提供了另一种选择。企业不必从零构建 harness,而是可以使用能够处理大量底层基础设施的框架,其他供应商在开源自家 harness 时也采取了这种做法。

文章《Ramp 六周内构建出 AI 智能体 harness——LangChain CEO 称这是更大转变的一部分》首发于 The New Stack。

来源

The New Stack