搜索“编码”

rew Ng 与 Jeff Huber 对谈开场。讲清上下文由什么组成、常见失效方式、什么是 Context Rot，以及如何用 harness 的 hooks 与 traces 发现并预防问题。实验包括：上下文失效模式、拆解一个客服 Agent、动手塑造其上下文。Drew Breunig 第一段客座约 7 分钟。 模块 2｜Agentic Search 以编码 Agent 为例。覆盖词法、语义、混合与结构化检索；写好工具描述、用 tool registry 按需加载工具；用切块、代码解析、元数据改进检索，并用精确率 / 召回率衡量。含搭建搜索系统、工具注册表等实验；Drew 第二段客座约 5 分钟。 模块 3｜Context Management 以研究类 Agent 为例。先看清上下文窗口里有什么，再练 pruning（去重、抽取、截断等 hooks）、compaction（把长历史压成结构化摘要）、scratchpads（把全文与任务状态挪到窗口外）。对比「开 / 关」各操作前后的跑次差异，并做上下文管理评估。Drew 第三段客座约 4 分钟。 模块 4｜Agentic Memo

匹配字段正文

使我们改用 FlashInfer 内核。FlashInfer FP8 将注意力内核的内存利用率从 50% 提升到 80%。 我们将权重保持在 BF16，因为权重量化在我们的测试集上增加了词错误率（WER）。虽然 FP8 缓存也是有损的，但对准确率的影响极小，因为注意力计算仍保持全精度，且每一层都会从全精度激活重新计算其缓存。✕优化解码器各阶段所选的精度。音频编码器和解码器权重保持 BF16，因为编码器只占 GPU 时间的一小部分，而 FP8 量化权重会影响准确率。KV 缓存是内存流量的最大来源，改为 FP8 后，每步所需字节数减半，可同时运行的序列数翻倍。注意力计算以全精度运行，并在每一层从全精度激活重新计算，因此舍入误差不会累积。 尽量减少主机与设备之间的同步 在负载下，GPU 跟踪显示即使内核接近其硬件极限，步骤之间仍存在空闲。 这些间隙来自 CPU；正常情况下，CPU 在 GPU 仍在工作时准备下一步，但为此，注意力后端需要每个序列的长度，而该长度存储在 GPU 上。将其复制回来迫使 CPU 等待 GPU 完成。因此 CPU 无法提前准备下一步，而 GPU 在它准备时处于空闲状态

匹配字段正文

ode mode 能削减你的 agent 账单 Michael Pfaffenberger mpfaffenberger 21 分钟前 2026/10/28 作为 Markdown 现在和我交谈的每个人对 code mode 都有自己的看法。我的看法则是由 Prime Intellect 的 Prime Agent点燃的，这是一个围绕持久化 REPL 构建的编码工具框架，此外还有 Alex Zhang 的 推测性程序化工具调用，它（除其他功能外）能在模型仍在流式输出代码时运行工具。 Cloudflare 就有一个。 Anthropic 也有一个。我们自己也有过几个，从 MCP 代码执行 到 Pydantic Monty编码智能体也在朝同一方向演进： OpenCode 2 现在默认通过 Code Mode 发送 MCP 工具，而 Pi 则自带一个 codemode 工具。常见的宣传话术大致是这样的：别再让模型一次调用一个工具，而是让它写一个小程序来调用这些工具，这样一切都会更便宜、更快、更好。 我信这一点。但我见过的几乎每个数字都来自拥有数百个工具或庞大负载的智能体，而现实中的许多智能体

匹配字段正文

统计、地理、语言和文化的合成居民，以改善模型对当地市场的适配。 完整的后训练工作流将这些 persona 与行为契约和官方程序文本结合，用于生成合成对话、在 NVIDIA NeMo 上使用 LoRA 微调 Nemotron 3.5 Lightning、合并适配器，并在冻结测试集上进行评估。 Nemotron 仓库提供数据生成、训练和评估的可复用步骤，以及帮助编码代理组装工作流的 agent skills。 Pleias 在其 Lamina 脊柱护理助手中应用法国和比利时 persona 数据集，以从有限的真实患者病例扩展覆盖范围，并在多样化患者画像上进行测试。 后续步骤 探索 Nemotron 仓库 以了解工作流步骤和 agent skills。 在 Hugging Face 上查看开放的 Nemotron 模型 和 数据集 。 使用 规模计算器 估算定制 Nemotron 模型所需的 GPU 需求、训练时间和成本。 由 NVIDIA Nemotron 提供支持。AI 生成的内容可能不完整地概括信息。请核实重要信息。 了解更多 随着 AI 在全球范围内的采用不断扩大，不同语言和文化背景

匹配字段正文

味着教会它我们的品味。 教设计智能体品味 品味是区分“正确之作”与“优秀之作”的判断力。在设计领域，两个布局可能都使用了正确的字体、颜色和间距，但只有一个能传达出要点。品味源自 Dill 所说的“真正擅长留意观察”。 这种留意观察的能力，正是我们学会识别 AI 垃圾内容的方式；当任务简报把某项决定留给智能体时，这类内容最常出现。 例如，下方左侧的图片是由本地编码智能体结合我们的品牌技能（其中包含颜色、字体、徽标等）生成的。但最终结果遗漏了关键要素，例如正确的徽标组合、文本对齐方式，以及哪些颜色是我们的主品牌色、哪些是辅助品牌色。 同样的提示词在 Content Studio 中生成了一张完全符合品牌调性的图片。之所以会出现这种差异，是因为本地智能体用自己见过最多的内容填补了简报中未覆盖的每一项决策。而采用这套方法后，Content Studio 则用我们的选择填补了同样的空白。 左图：使用我们品牌技能的本地编码智能体。右图：由同一提示词在 Content Studio 中生成的结果。 我们给 Content Studio 的指导方针从基础内容开始，包括颜色令牌、字体粗细、间距和对齐方式

匹配字段正文

26 日 继续阅读所有文章 指南/2026 年 10 月 26 日 如何用 LLM 从网站提取结构化数据（2026） 将众多网站转化为可信的 JSON：单一模式、干净的页面文本、验证、重试。Firecrawl、Crawl4AI、Browser Use 和 Stagehand 对比。 Gregor Zunic 指南/2026 年 10 月 25 日 如何让你的编码智能体使用已登录的 Chrome（2026） 将你已登录的 Chrome 交给 Claude Code、Codex、Gemini CLI 或 Cursor：Claude in Chrome、Playwright MCP、Chrome DevTools MCP、Browser Harness 对比。 Gregor Zunic 指南/2026 年 10 月 25 日 Web 智能体基准测试：WebArena、WebVoyager、Mind2Web 等（2026） 哪些基准测试在真实网站任务上测试 AI 智能体：WebArena、WebVoyager、Mind2Web、BrowseComp 等，按任务、环境和评分进行对比。 Grego

匹配字段正文

不会延续下来，除非他从头重新推导一遍。AI 智能体生活在一个《土拨鼠之日》式的版本里。每当智能体采取一步行动（调用工具、读取结果、决定下一步做什么），它都必须把到目前为止的完整经历发送给模型，以保持连续性：工具定义、指令、此前每一次工具调用以及每一个结果。 模型只会根据你提供的输入预测下一个 token。它在请求之间没有内部记忆，因此必须重新读取全部内容。到编码会话的第 20 轮时，模型会重新读取第 1–19 轮，而你要为其中每一个 token 反复付费。 提示词缓存打破了这一循环。该服务会存储你的输入提示词（指令、工具和内容），并在下一次请求时以输入价格的一小部分将其复用。 在这篇文章中，我将带你了解一个智能体的一生，从它的第一次交互开始，一直到它获得新工具并生成辅助智能体。在此过程中，我会向你展示提示词缓存如何降低成本，并让智能体保持响应迅速和一致。 智能体向其 LLM 发送的内容 在讨论缓存之前，先看看一个典型智能体首次调用大语言模型（LLM）时都包含哪些内容会很有帮助： 工具列表 ——智能体可调用的每个函数的定义。每次发布新版本时都会变化。 指令 —— 开发者提示词：规则、人设

匹配字段正文

于所有用户的记忆 用户记忆：仅适用于特定用户的记忆 智能体决定它们想将哪些事实记住到哪一层记忆。 这可能是目前探索最少的领域——我们在这里有很多工作想做！ 问题：代码执行 我们的三个智能体都能编写和执行代码，而且为了完成任务往往需要这样做。它们都遵循在沙箱外运行、但连接到沙箱并在其中执行代码的模式。它们各自的基础镜像略有不同，依赖项也不同。OpenSWE（与编码最相关的智能体）能智能地决定启动哪个基础镜像（根据频道/用户而不同）。它们都利用了 LangSmith Sandboxes 上的 secret proxy ， LangSmith 沙箱 （另见 为 Managed Deep Agents 添加沙箱），让智能体能够从沙箱内部以安全可靠的方式连接到各项服务。 问题：定时运行 很大一部分运行是由事件在后台调度或触发的，而不是由用户直接启动的。 其中一些是由智能体的开发者设置的。例如：OpenSWE 会监听 PR，当有新的 PR 创建时，它就会对其进行审查。 另一些则是由用户要求智能体自行设置的。例如：我让 GTM agent 每天给我发送一份简报，它就自己创建了一个 cron 来执行。

匹配字段正文

用的基础模型。与其从头训练它——那会是另一整本书的内容（参见《从零构建大语言模型》）——我们从预训练模型开始。 这里，我们加载 Qwen3 0.6B 模型的预训练权重。然后，我们通过流式文本生成器实现文本生成过程，并添加 KV 缓存和模型编译，使文本生成更高效。 这些实现为我们提供了基线以及基础组件，我们将在后续视频中对其进行评估和改进。 涵盖的主题 将文本编码为 token 并将其解码回文本 下载 Qwen3 权重并在所选计算设备上加载模型 讲解张量形状、logits 和下一 token 预测 实现贪心解码和流式文本生成 处理序列结束 token 并测量生成速度 添加 KV 缓存以复用注意力键和值 将 KV 缓存与 torch.compile 结合并比较硬件性能 观看视频 2 · 第 2 章代码 3. 构建用于评估和强化学习的验证器 在本讲中，我们逐步构建一个数学答案验证器，从答案提取到归一化，再到检查数学等价性。然后我们用它来在 MATH-500 上评估模型。 我们使用这个验证器来评估基础模型在 MATH-500 评估数据集上的性能。 然而，这个验证器在本系列后面还有第二项工作：为

匹配字段正文

m现在以PyTorch用户所期望的方式运行PyTorch——eager模式，配合torch.compile和标准API。 SemiAnalysis工程团队过去几周一直在试用Trainium3机架，发现体验很棒——我们很喜欢它整体的发展方向。需要说明的是，它还不完美，我们自己也遇到了几个bug。它远未达到CUDA生态的成熟度，但方向是对的。他们的团队借助智能体编码正在快速推进。 此外，与其他加速器公司不同——我们曾不得不费尽周折才能让他们的工程师获得一个还算稳定的CI集群——Trainium最多分配80,000个物理核心用于自动化质量控制。 在本文中，我们将介绍我们在Trainium3 TorchTitan和TorchNeuron技术栈上的体验，以及我们对Trainium的Neuron Explorer剖析器的体验——它远优于Nvidia和AMD的剖析器。我们制作了一系列演示，展示Trainium的剖析器如何做到“GPU Impossible”。 AWS副总裁Nafea Bshara在Trainium剖析器中展示Trainium的细粒度剖析器。来源：SemiAnalysis 在即将发表的

匹配字段正文

、评估证据、处理失败，并管理模型推理与确定性执行之间的边界。 内容摘要 TinyFish 介绍了其智能体搜索架构，以及构建深度研究系统的关键工程经验。该系统基于四个网页原语（TinySearch、TinyFetch、TinyBrowser 和 TinyAgent），围绕基础模型运行一个七阶段控制循环。在 OpenBenchmarks 上，TinyFish 在编码任务中实现了 79.0% 的完成率，同时提供了最低的中位任务成本（0.050 美元）和 token 占用，凸显了刚性控制循环、针对具体失败的重试以及统一推理优于独立规划器的重要性。 TEXTTABLELAYOUT你的 PDF 解析器真的解析正确了吗？omni parse bench · 对文本、表格和布局进行评分 · 开源在 GitHub 上加星→赞助 什么是智能体搜索架构？ 智能体搜索架构使 AI 智能体能够规划检索、访问来源、评估证据，并在新信息出现时调整其方法。模型提供推理能力，而外围应用则管理状态、工具执行、证据处理、运行时策略和输出验证。这些组件共同使智能体能够处理不完整的结果、可恢复的故障以及不断变化的信息需求。 T

匹配字段正文

ence/v1/systemone 服务训练后模型的说明。 你会训练 Muse Glimmer 做什么？ 你不需要有交易方面的雄心也能尝试这个。你的第一个实验可以从一个你已经纠正过太多次的错误开始。 也许你的智能体总是选错工具。如果你保存它的运行记录，成功的调用和已纠正的错误就可以成为 SFT 的示例。用一部分训练，用另一部分测试，看看你是否让这种纠正发生得更少。 自己试试 Kalshi 实验。该 cookbook 包含代码、评估结果和方法论，并引导你使用 Training API 完成该实验。 对于你自己的实验： •让 Fireworks 运行任务。将你的示例带到 Managed Training，在应用中或通过 API 开始。 •掌控你的训练循环。使用 Serverless Training API 编写你自己的 SFT 循环。 •让你的编码智能体投入工作。按照 Agent Skills 指南安装 Fireworks 训练技能，然后描述你想训练什么。 Muse Glimmer 30B 在 11 月 30 日前可免费通过 SFT 训练，无需信用卡。推理（包括评估调用）单独计费。$/$

匹配字段正文

正奏效的是彻底放弃逐行阅读代码，转而在意图周围构建一层验证机制。 为什么为 AI 生成代码扩展代码审查没有奏效 今年早些时候，我为 Latent Space 写了 《如何终结代码审查》 。这篇文章迅速走红，此后我一直没停止谈论 AI 代码审查的瓶颈问题。 这个问题反复出现，是因为它的成因不会消失。在四倍的数量下，审查成了交付中最慢的一环。 大多数使用 AI 编码工具的团队都会遇到代码审查瓶颈，并试图用增加审查者、添加 AI 代码审查工具或对代码生成施加更严格规则等组合手段来解决。但真正的问题在于被审查的是什么。一份 diff 告诉你改了什么，却不会告诉你这次改动本应做什么。 本文介绍对我们影响最大的两项实践，以及它们最终归入的框架。 作为基线，我们现在维护一项共享技能，我们称之为“offer-skill”，以发起它的那位工程师命名。它后来成了所有人用来理解代码改动的技能。 审查意图，而非 diff 传统观点认为，人的判断应放在最后。由某人阅读代码并决定它看起来是否正确。 对于 AI 生成的代码，这会让审查者陷入困境。他们读 400 行代码，试图逆向推断这次改动本应做什么。工单描述只有在

匹配字段正文

游戏状态来实现多人联机！以下是我目前构建的内容，以及一路走来学到的一些东西。 v10：Goliath，以及智能体对战 更新：在线多人联机支持 Battle Drones 我最初的目标是打造一款能在手机上玩的《命令与征服》风格 RTS 游戏。我对 1995 年的原版有着美好的回忆（我也喜欢《红色警戒》），想重新找回一点那种魔力。 经过 12 个大版本迭代（以及编码智能体提交的 321 次提交，主要是 Claude Code），我现在有了一款可在移动端和桌面端运行的浏览器游戏，它拥有多种游玩模式、数张地图（包括随机地图生成器），甚至支持两台处于彼此麦克风范围内的设备进行多人联机。 以下是 Battle Drones 在桌面浏览器中运行的视频演示： 目前的功能包括： 9 种建筑、7 种地面载具、6 种空中载具、3 种步兵单位——全部为 3D 模型，可在此浏览 战争迷雾 需要不同的武器才能攻击空中或地面载具 六张地图，横跨五种生物群系——温带、沙漠、极地、火山、热带 随机地图生成器 遭遇战模式——红方对蓝方，地图呈旋转对称 背水一战模式——一名玩家抵御尽可能多的敌人波次 空投补给箱，提供额外资

匹配字段正文

人工智能 使用 AWS Agent Registry 在运行时发现工具 使用 AWS Agent Registry 进行运行时发现，可以帮助解决一个可能被智能体演示所掩盖的问题。硬编码的工具在只有少数几个时运行良好，到几十个时开始退化，再往后就变得难以管理。企业系统会暴露数百个内部 API，用于定价、支持、订单、库存和客户数据。在这些系统中，模型花在消除工具名称歧义上的 token 可能比推理用户请求还要多。每新增一项能力，都需要在编排器中修改代码、重新部署，并在各团队之间协调发布，而这些团队更希望按自己的节奏交付。 在企业软件即服务（SaaS）项目中，当团队向智能体消费者暴露大量内部 API 接口时，这种模式就可能出现。随着目录扩展，构建时接线可能成为瓶颈。一种方法是改变编排器访问其工具的方式：不再把每个工具都编译进智能体，而是让智能体在运行时发现相关工具。 AWS Agent Registry 是一项托管服务，用于编目和发现模型上下文协议（MCP）服务器、智能体和智能体技能。发布者注册协议特定的描述符和可搜索的描述。在运行时，编排器可以搜索已批准、可发现的记录，并使用返回的端点和描

匹配字段正文

位浮点格式）存储时，这些活跃权重只占稠密模型的一小部分。 在我的 DGX Spark 上，Qwen3.6-35B-A3B 单用户生成速度为每秒 120 个 token，八个用户合计为每秒 359 个 token。这些数字包含模型在回答之前写出的推理 token。 这就得出了第一条设计规则：所有文本类任务都用同一个强大的 MoE 模型。摘要、分类、提取、起草、编码和读取截图都交给同一个模型。每多一个模型，就多一个需要固定、打补丁和监控的容器，因此只有当 LLM 无法完成某项工作时，才会给专用模型留一个位置。 这套栈 以下这些模型会常驻在一台 DGX Spark 上： 任务 模型 许可证 聊天、编码、视觉、提取 nvidia/Qwen3.6-35B-A3B-NVFP4 Apache 2.0 嵌入 Qwen/Qwen3-Embedding-4B Apache 2.0 重排序 Qwen/Qwen3-Reranker-0.6B Apache 2.0 语音转文字 openai/whisper-large-v3-turbo MIT 图像生成 Tongyi-MAI/Z-Image-Turbo Apac

匹配字段正文

，只有一台 Framework 台式机，它在 120 瓦持续负载下可以消耗两倍多的功率，而搭载 RTX Spark 的华硕笔记本只有约 40 瓦，短时 60 瓦，所以 Nvidia 芯片肯定更高效。在 Mac 上，MacBook Pro 和 Mac mini 之间的差别，也就是 M5 Pro，显然不太相关，但如前所述，我当时手头没有 M5 Pro 笔记本。 编码智能体实测 顺便说一句，如果你们想看看慢速的 Qwen 3.8-27B 模型和更快的 Qwen 3.6-35B-A3B 模型实际运行起来是什么样，那就是这样。这里慢速模型正在运行，这里是更快的那个，两者都在用我的编码工具 Pi 给我各建一个网站。我之前也说过，Dense 模型，也就是 27B，更聪明。这从结果里也能看出来。这里，这个任务很简单：给我建一个看起来精致的 Jan-Keno Janssen 网站，从网上搜集关于他的所有信息。然后这边是更快、更笨的模型。 对，那个更笨的模型不仅看起来无聊，而且里面写的也是胡扯。比如我从来没在 PC-WELT 工作过，其他内容也很，怎么说呢，反正没法用。对，而 Qwen 3-27B 这边就

匹配字段正文

pstack 作者公开她的 “工程原则” 设计思路 「Clean Code」作者 Uncle Bob 是传统软件工程方法论的宗师，他最近看到了 pstack，认为本质上是把经典工程智慧「最小改动、先删后加、验证根因、用类型系统让非法状态不可表示、幂等操作」重新编码给 AI Agent 使用。 pstack 作者 @poteto 回应并公开了这个 Cursor 官方内置插件的工程原则的设计思路，核心是：随着模型能力提升，写给智能体的指令正在从“冗长的操作步骤”压缩为“简短的命名原则”。 几个关键信息点 1. 原则即极简 skill。pstack 的每条工程原则只有约 10–20 行，是一段被提炼、命名过的好实践，而不是一个流程脚本。她预期随着模型变强，pstack 里大部分 skill 最终都会被压缩成这样的短原则或工作流，从而可以删掉一批。 2. /poteto-mode 的运行机制。智能体在开始多步任务前先读一份简短的原则索引；执行过程中，必须“点名每一条影响了决策的原则，以及它具体改变了哪个选择”，并在回复末尾生成一个 "Principles Named or Used" 段落。这

匹配字段正文