←新闻详情

Latent Space更新于 10月25日 19:56

Claude Mods:把智能体框架翻转成面向人的注意力界面

Claude Mods: Flipping the Harness Inside Out — Latent Space

AI 导读

Latent Space 作者 Dan McAteer 介绍 Claude Mods,一种用 TypeScript 或 JavaScript 函数在 Claude Code 中响应提示、工具调用和界面渲染事件的插件,可改变 CLI 与桌面端的执行和渲染行为。文章对比了 OpenAI 的 ChatGPT Intelligent UI 与 Cursor 的 PR Routing & Approval,认为三者的核心差异在于由谁设计注意力界面。作者也列出实际使用中的问题:Next Steps Supervisor 在 111 轮中有 99 轮触发,单次检查约消耗 5–6k 输入等效 token,且 mods 不在沙箱中运行。

推荐理由

AI 评分 62

作者以第一手使用经验对比 Claude Mods、ChatGPT Intelligent UI 与 Cursor 的审批机制,呈现三种注意力界面设计取向的差异。

主题

标签

正文 · AI 翻译

Claude Mods 是注意力界面的一种早期形态。它将智能体框架的范式从框架面向机器,翻转为框架面向人。Dan McAteer 2024年10月21日·10 分钟阅读

过去几周里,我一直用 Claude Mods 把 Claude Code 塑造成契合我 AI 工程工作流的样子。Claude Code 开箱即用就很出色,但每个工程工作流都各不相同。Claude Mods 让你能按自己希望投入注意力的方式,把 Claude Code 变成你自己的。

“投入注意力”这部分如今是最重要的。

在 Latent Space 最近的一篇文章《智能体框架的演进》中,我提出:随着模型把框架的更多部分吸收进自己的权重,剩下的那部分就面向人。它变成了注意力界面:这一层决定智能体何时打断你、向你展示什么,以及需要你做哪些决策。Claude Mods 是注意力界面的一个早期版本,而且是一个你可以自己塑造的版本。

我的判断是:最终,框架会成为一个平台,其他公司在其上构建,而模型则是引擎。正如浏览器成为 Web 应用的平台,框架也可能成为人与智能体之间界面的平台。

Claude Mods:它是什么?

mod 是一个 Claude Code 插件,由在 Claude Code 内部运行的 TypeScript 或 JavaScript 函数组成。这些函数定制 CLI 和桌面端界面的行为与外观。Mods 响应事件,例如提示、工具调用或界面渲染。它们可以观察事件、修改事件的渲染方式,并取代默认行为来处理该事件。

Claude Mods 是智能体框架的中间件。它们注入代码,改变 Claude Code 的执行与渲染流程,从而在运行时改变应用的行为。

Claude Mods 让人和智能体共同构建框架中面向人的那部分。现在你可以与 Claude 一起设计 Claude 如何与你协作。这就是“注意力界面”的精髓。

框架的反转

智能体框架最初是智能体与其运行所在机器之间的界面。它让你向智能体发出提示,然后智能体发送命令、编辑文件并调用工具。如今它正逐渐变成智能体与人对接的方式。

Claude Mods 让你反转框架的方向。框架不再是从智能体指向机器,而是由你让它从智能体指向人类操作者,框架于是成为与人的注意力对接的方式。

Claude Mods 让人类层变得可编程,而且是由使用 Claude 的人来编程。

Claude 也可以为你构建 mods。Claude Code 内置了一项技能,教它如何构建 mods,因此你可以用自然语言说出你想要的 mod,Claude 就会把它构建出来。

实践中的 Mods

Claude Code 自身的一些功能其实已经是 mods。Anthropic 已内置发布了其中六个。你可以运行 /plugin 并打开 Installed 来查看它们,它们列在 Built-in 之下:

agents-md:将 AGENTS.md 作为项目指令加载。

diff:接管 /diff 并绘制其面板。

plugin-authoring:赋予 Claude 用来为你编写 mods 的技能。

sec-default:保护你的组织所管理的部分,使其不受用户安装的 mods 影响。

telemetry:发送 Claude Code 及其内置 mods 记录的分析数据。

you-should-know:一个侧边智能体,当它发现你可能遗漏的内容时,会在提示上方显示一条提示。它是唯一默认关闭的。

这些 mod 大多在后台运行,这一点很有意思,因为这意味着 Anthropic 正在把 Claude Code 的部分功能当作 mod 来构建——甚至包括你可能注意不到的部分。我自己开启的那个是 You Should Know。

以下是我在实践中发现最有用的两个 mod:一个是内置的,另一个是我自己构建的。

1. You Should Know

这是 Anthropic 构建的原生 Claude Code 插件。它会运行一个侧边智能体,在主智能体工作时对其进行观察,并标记出你可能遗漏的重要信息。可以这样理解:那些对输出有实质性影响的工具调用和决策,由于埋在智能体轨迹中,未必容易被看到。它内置于 Claude Code,但默认关闭,需要你手动开启。

这里有一个真实的例子。我让 Claude Code 简化我某个个人项目中嘈杂的 UI 文本。主智能体精简了 Compare 屏幕上的文案,安装了新构建,并拍摄了前后对比截图。一切看起来都完成了。

随后 You Should Know 为我标记了一件事。智能体正在编辑的文件 CompareView.swift 中已经有未提交的工作——另外大约 45 个文件也是如此。如果我之后丢弃这些演示编辑,我也会一并丢掉那些更早的未完成工作。它的建议是先提交或暂存之前的工作。

在这个案例中,You Should Know mod 让我免于无意中丢弃工作。

2. Next Steps Supervisor

这个 mod 只在一轮对话编辑了文件、运行了命令或进行了 8 次及以上工具调用之后运行。在下面的截图中,你会看到六条被标记出来供你注意的不同信息。Next Steps Supervisor 随后会建议下一步操作,以可点击按钮的形式呈现,点击后会将指令作为消息发送给 Claude Code。这个 mod 作为 ModSmith 的一部分提供——ModSmith 是我构建的一个开源 Claude Code 插件,包含多个不同的内置 mod,以及一个 Claude 可用来构建可协同工作的新 mod 的模板。

其他地方的注意力界面赞助你的赞助广告放在这里触达正在构建未来的 AI 工程师。

Latent Space 的读者正是那些交付智能体、模型和基础设施的人。咨询赞助此广告位:business@latent.space →

Anthropic 并不是唯一一家在构建注意力界面的公司。最近的两款产品,一款来自 OpenAI,一款来自 Cursor,都指向了同一个方向。以新的 ChatGPT Intelligent UI 和 Cursor 的 PR Routing & Approval 为参照,可以看出 Claude Mods 的独特之处。

ChatGPT 的 Intelligent UI

10 月 7 日,OpenAI 在 ChatGPT 中发布了 GPT-6,同时推出了一个名为 Intelligent UI 的新 ChatGPT 界面。ChatGPT 不再只用文本作答,而是可以在回答的同时生成界面:图表、地图、清单、表单,以及账单分摊器或储蓄计算器之类的小工具。所有这些都由模型即时生成,作为一种生成式 UI。

在 OpenAI 的一个示例中,ChatGPT 会用多项选择式的追问来缩小你所要寻找的范围。可以这样理解:模型决定何时需要你的判断,然后为你构建界面来提供判断。

这就是注意力界面。智能体设计了你要如何与它的回答进行交互。

但请注意 ChatGPT 的 Intelligent UI 与 Claude Mods 之间的区别。对于 Intelligent UI,模型会逐条回答地从 OpenAI 构建的组件库中挑选界面。发布时提到的唯一控制项就是把视觉效果调低。

Cursor 的 PR 路由与审批

Cursor 从另一端解决同一个问题:不是一个人和一个回答,而是一个团队和一连串拉取请求,而且其中越来越多是由智能体编写的。总得有人来决定哪些改动值得人类介入环节的关注。

PR 路由与审批就做这个决定。它根据代码归属和提交历史分配审查者,并且可以自动批准低风险的 PR。它会将风险评分与你设定的阈值、Cursor 的 Bugbot 和安全审查者给出的发现,以及仓库中的策略文件进行权衡。

研究期间有一条规则引起了我的注意。如果某个 PR 修改了审批策略,智能体不会使用修改后的版本来放宽对该 PR 的审查。它会改为从基础分支读取策略。这意味着智能体无法通过修改规则来让自己的 PR 获得批准。

Cursor 也明确说明了限制。其文档称该功能“不能替代完整的代码审查”。重点是把人工审查用在关键之处,而不是取消人工审查。

三个系统之间的差异

这三个系统都在塑造什么能引起你的注意以及如何引起。主要区别在于谁有权设计注意力界面。

ChatGPT Intelligent UI:模型在实验室构建的框架内,为每个回答设计界面。零配置,但控制力很弱。(我认为目标用户不是工程师。)

Cursor PR 路由与审批:团队编写策略,固定的审查工作流来执行它。可配置,但交互流程由 Cursor 决定。你决定规则,而不是界面。

Claude Mods:你和智能体用代码构建界面本身。一个 mod 可以接入循环中的任意节点——从你提交的提示词,到智能体发起的工具调用,再到一轮对话结束的时刻——并决定在那里向你展示什么,以及你可以对此做什么。

我之前展示的 supervisor 就是一个很好的例子。Cursor 可以很容易地因为某个 PR 触及的文件而把它路由给我。ChatGPT 也可以同样轻松地把裁决渲染成一张漂亮的卡片。但两者都不会让我决定:每一轮中,凡是编辑文件的改动都要有第二意见;该意见要列出走了哪些捷径;每个建议的下一步只需按一个键就能执行。那个界面之所以存在,是因为我偏好以这种方式投入注意力,而 Claude 和我一起构建了它。

ChatGPT 和 Cursor 给你的是别人设计好的注意力界面。Claude Mods 让你和 Claude 一起设计自己的界面,但代价是你要负责让它真正有用。

Mods 有什么问题

Mods 并非没有代价,我遇到了一些缺点。

第一个是噪音。Next Steps Supervisor 会在任何编辑文件、运行命令或发起 8 次及以上工具调用的轮次之后运行。实际上,几乎每一轮都符合。自从我在 10 月 15 日安装它以来,我在 Claude Code 中的 111 轮里有 99 轮达到了这个标准。其中一些裁决有用,另一些只是噪音。所以当一个 mod 几乎每一轮都发声时,我就会开始快速略过它——这恰恰违背了注意力界面的初衷。

第二个是成本。每次 supervisor 检查都会分叉对话并重新读取它。其中大部分由提示缓存提供,但该 mod 自己的 README 估计,在 5 万 token 的会话中,每次检查约消耗 5–6k 输入等效 token,缓存过期时还会更多。

第三是信任。mod 是以你的权限运行的代码。Anthropic 的文档对此说得很清楚:一旦加载,mod 就能读写你的文件、看到你发送的每一条提示,并消耗你的用量。而且,“mod 不在沙箱中运行”。即使你用 --safe-mode 启动 Claude Code,内置 mod 也仍会继续运行。对于我自己写的或随 Claude Code 一起发布的 mod,我用着放心;但其他人的代码,我会先读一遍再安装。

好处在于,mod 的可修复性是其他工具所不具备的。当 supervisor 在某个会话里只是噪音时,/supervisor off 就能把它关掉。因为这是我的 mod,我可以改变它何时运行。

接下来会怎样

定制这套框架并不保证对每位工程师都是收益。我添加的每一个 mod,都是我又一份需要投入注意力的信息。在我自己的某次会话中,我的 Next Steps Supervisor 把一个任务标记为“已解决”,却又列出了两个缺口和三条捷径。智能体很聪明,但远非完美,而我的注意力也远非完美。

所以我用来衡量 mod 是否有用的测试很简单:它是否揭示了我本来会漏掉的东西、让某个决定更容易做出,或者让我能采取行动而不被更多输出分散注意力?如果不是,那它就只是装饰,而不是有用的工具。

目前,构建一个 mod 的流程是这样的:我注意到自己与 Claude 协作中的摩擦,描述我想要的 mod,然后 Claude 和我一起把它构建出来。发现摩擦仍然需要我个人的注意力。

下一步是让这套框架自己注意到摩擦。Claude Code 已经保存了我的会话记录。可以这样想:一个后台进程读取这些记录,找出我反复纠正智能体或反复手动检查同一件事的地方,并为此建议一个 mod。然后它帮我测试这个 mod,并根据我的反馈加以改进。

对 AI 工程师来说,这是最好的情况:一套可塑的框架,能从真实使用中建议自我改进的方式。Claude Mods 是朝这个方向迈出的一步。

如果我在开头下的判断是对的,那么几年后,我们会谈论那些建立在 Claude Code、Codex,或某个尚不存在的框架之上的初创公司。

最后留给你一个问题,希望它的答案能给你带来实际价值:你在使用 Claude Code 时注意到了哪些摩擦,而本文能启发你今天就用一个 mod 来解决?感谢阅读

保持领先一点点。

来源

Latent Space