2026年9月29日,Box在早期访问中使用Box Agent的复杂工作评测,测试并评估Claude Sonnet 5.5在企业知识工作中的表现。据该评测,Sonnet 5.5在整体最难测试中提升4分,完成交付物约快2.4倍,并少用12% token。分行业看,金融服务提升18个百分点、法律7个百分点、生命科学8个百分点、公共部门7个百分点。具体任务中,尽职调查审查提升48分并快约61%,商业租约审查提升14分,现场试验报告提升22分并快约41%,数学干预项目报告提升11分并快约71%。报道还称,客户不久将能在Box AI Studio中用Sonnet 5.5构建AI智能体。目前尚无后续发展事实。
匹配字段摘要
2026年9月25日,Anthropic上线Claude插件目录提交门户。据Claude应用发布说明,付费Claude计划的开发者可提交插件并跟踪审核进度,插件上线后还能查看安装量与搜索来源等使用分析。插件可打包MCP连接器、Agent Skills或两者,在Claude Code中还可包含LSP、命令、hooks和agents。同一说明提到,Claude已支持MCP 2.0规范,并提供MCP Apps与Enterprise Managed Auth两个扩展。目前尚无后续有证据的发展。
匹配字段摘要
2026年3月11日,Mistral AI 构建了一个基于其开源编码助手 Vibe 的智能体,用于自动为 Rails 项目生成和改进 RSpec 测试。该智能体可在 CI/CD 中无人干预运行,并支持多实例并行处理不同文件。其实现方式包括通过仓库级 AGENTS.md 提供分步执行计划、按文件类型拆分 skills 文件,并加入 RuboCop 与 SimpleCov 自定义工具;其中把 SimpleCov 放在最后一步强制运行每个测试被视为最关键的决定,因为首次执行时只有约三分之一测试通过。在包含 275 个源文件的真实仓库实验中,已有测试文件的 LLM-as-a-judge 评分从 0.49 提升到 0.74,覆盖率达到 100%。目前尚无后续发展事实。
匹配字段摘要
2025年8月1日,Linear介绍了Agent Interaction SDK的设计。该SDK让AI智能体以独立用户身份进入工作区,并在明确权限下参与任务;身份与交互范围通过OAuth actor=app、app:assignable和app:mentionable管理。系统还使用agent sessions传递结构化上下文、跟踪状态,并以delegation区分人类责任与智能体执行,使问题保留人类负责人,同时可委派智能体采取行动。
匹配字段摘要
2026年8月14日,蚂蚁ASystem团队发起AReno本地化大模型后训练工具包。同日,蚂蚁百灵发布实践文章,介绍在DGX Spark上用AReno对Ling-3.0-tiny做Agentic RL,以井字棋为最小验证任务,跑通基线评测、Reward定义、后训练与同环境复测四步闭环。实验使用GSPO训练400个step,rollout/rewards_mean从约-0.5升到0.4左右,response_len降至约850 tokens,复测中工具调用与落子选择更稳定。Ling-3.0-tiny为7.9B总参数、1.3B激活参数的混合推理模型,已开源BF16、FP8和INT4版本,AReno提供Docker复现教程。目前该工具包已随上述实践公开。
2026年8月14日,蚂蚁ASystem团队发起AReno本地化大模型后训练工具包。同日,蚂蚁百灵发布实践文章,介绍在DGX Spark上用AReno对Ling-3.0-tiny做Agentic RL,以井字棋为最小验证任务,跑通基线评测、Reward定义、后训练与同环境复测四步闭环。实验使用GSPO训练400个step,rollout/rewards mean从约-0.5升到0.4左右,response len降至约850 tokens,复测中工具调用与落子选择更稳定。Ling-3.0-tiny为7.9B总参数、1.3B激活参数的混合推理模型,已开源BF16、FP8和INT4版本,AReno提供Docker复现教程。目前该工具包已随上述实践公开。
匹配字段摘要
Browser Use 发布指南，介绍让编码智能体在已登录的真实 Chrome 中工作的多种方式，包括 Claude in Chrome、Playwright MCP 扩展模式、Chrome DevTools MCP 自动连接模式、Gemini CLI 内置浏览器智能体、ChatGPT 桌面版浏览器扩展和 Browser Harness。文中按 Claude Code、Codex、Gemini CLI、Cursor 等智能体分别给出配置命令与限制，并说明从 Chrome 136 起默认数据目录上的 --remote-debugging-port 和 --remote-debugging-pipe 会被忽略，因此复制 cookie 到新浏览器的旧做法在设备绑定会话等场景下会失效。
Microsoft Edge，并说明 Claude Code 还会设置 Brave、Arc、Vivaldi 和 Opera。 限制： 需要直接的 Anthropic 套餐（Pro、Max、Team 或 Enterprise）。使用 API 密钥或 claude setup-token 令牌、通过 Amazon Bedrock、Google Cloud 的 Agent Platform 或 Microsoft Foundry，以及在 WSL 中时，它会保持关闭。它会在登录页面和 CAPTCHA 处暂停，由你处理。站点权限来自扩展的设置。 如果你只使用 Claude Code 并且已经付费订阅 Claude 套餐，我会使用它。另请参阅我们的 Claude in Chrome 页面. 2. Playwright MCP，扩展模式 微软的 Playwright MCP 服务器通常会为每个工作区启动一个带有持久配置文件的独立浏览器。它的 --extension 标志会通过 Playwright 扩展 将其连接到正在运行的 Chrome 或 Edge（扩展 README). 适用对象： 任何 M
匹配字段正文
OpenAI 于 10 月 23 日披露前沿模型的训练环境，模型练习搜索、浏览和操作网页时使用预先保存并建立索引的网页资源，不直接访问真实互联网，其所有前沿模型的强化学习训练都采用这种离线交互。环境采用受限容器、轻量虚拟机、Hypervisor、防火墙与身份权限管理、监控暂停机制等多层隔离，但 OpenAI 仍保留部分外部连接用于收集指标、记录日志和管理身份验证。在专门测试隔离效果的实验中，OpenAI 让两个 AI 尝试互相传消息，所用通道是 CPU 缓存，多数测试中研究人员给过通信方向或编码规则的提示；OpenAI 称已修补发现的问题并为这些通信方式增加监控。
nAI 先把大量网页内容保存下来，再为这些内容建立索引。模型练习浏览和搜索时，使用的是这批准备好的资源。 这就是它所说的「离线世界」。「假」的是连接方式，网页内容可以来自真实世界。OpenAI 表示，其所有前沿模型的强化学习训练都采用这种离线交互。 模型在任务中还可以使用浏览器、执行代码、操作电脑。哪些工具、文件和服务能用，由任务的授权范围决定。允许协作的 Agent 可以共享指定资源，其他资源则要隔开。 比如模型写好一段程序，运行时就可能读取文件、启动其他程序，或者向某个网址发请求。 OpenAI 的 Linux 方案是把受限容器放进轻量虚拟机。容器先收窄程序能接触的文件和进程。例如，任务只需要处理一组文件，就可以只向程序开放获准使用的目录。 虚拟机有自己的操作系统内核，处理里面的程序对文件、内存和设备的请求。负责管理虚拟机的软件 Hypervisor，再将它与实体服务器的系统隔开。程序绕过容器限制，并不意味着已经获得实体服务器的控制权。 实体服务器外围，防火墙和安全组约束连接，身份与权限管理决定谁能访问哪些云服务。这层防线要应付的情况是：即使模型拿到了服务器的控制权，也不能任意连接
匹配字段正文
2026年5月9日,Browser Use 官方博客公开了其开源 browser-use 库在生产环境运行的架构,采用 SQS 到 Lambda 的工程实践。该架构以 FastAPI on ECS Fargate 接收任务,经单条标准 SQS 队列传递消息,由 Lambda 作为 worker 执行 Agent,并将检查点、截图、日志和输出文件存入 S3。由于 Lambda 存在 15 分钟硬限制,系统会在截止前两分钟优雅停止、将状态写入 S3 并重新入队,由新的 Lambda 调用恢复继续执行,continuation 计数器上限为 12,约合三小时墙钟时间。失败处理直接复用 Lambda 重试与 SQS 死信队列,三次失败后进入 DLQ 且不自动重投;作者还提到 Lambda 的 /tmp 在热实例间不会自动清理,因此每次调用开始时清空工作区。目前该架构已由官方公开说明,暂无进一步的发展事实。
匹配字段摘要
2026年1月21日,Replit 介绍其决策时引导(decision-time guidance)控制层,用于让 Replit Agent 在长任务中保持可靠。该方案用一个轻量多标签分类器判断当前轨迹需要哪条微指令,只在相关时注入,从而把控制从单一系统提示词拆成可复用的指令库。Replit 称,把鼓励并行工具调用的短提示词放在轨迹末尾,比放在系统提示词中让智能体每轮多执行 15% 的工具调用;而决策时注入超过三到四条提醒后收益递减甚至为负。由于核心提示词不变、注入内容不留在对话历史中,该方案相比动态修改系统提示词可降低成本 90%。目前尚无后续发展事实。
匹配字段摘要
文章以 DeepSeek-R1-Zero 在 AIME 2024 上 pass@1 从 15.6% 升到 71.0% 为例，说明规则 judge 只给整段回答一个分数，而训练要调整每个 token 的概率。作者用 Is OpenAI open? 的采样例子依次解释 policy、state、action、reward、return、value、Q、advantage、baseline、TD error、GAE、clipping 和 KL，并指出 PPO 用 critic 学习 V、GRPO 用组内平均分代替 V。
于选最想当然的那个： open，概率 0.5，后面接 It's in the name.（名字里就写着）。judge 平均打 2 分（满分 10 分）。 closed，概率 0.3，漏掉了开放权重的模型。judge 平均打 5 分。 partly，概率 0.2，后面接 some open weights.（部分权重开放）。judge 平均打 9 分。 循环：agent、environment、reward 在强化学习里，agent 做出 action，environment 给出反馈，reward 衡量 action 的好坏。对应到 LLM： agent 就是模型。模型对下一个 token 的概率分布叫作 policy，记作 π θ，其中 θ 是模型权重。训练改变 θ，也就改变了 policy。 environment 是模型以外的一切：模型收到的 prompt，以及给回答打分的 judge。 judge 是 environment 中给完整回答打分的部分。它可以是用人类偏好数据训练出的 reward model，可以是 R1-Zero 那样的规则检查器，可以是运行生成代码的单元测试，
匹配字段正文
Pydantic 的 Michael Pfaffenberger 用 5 个小型 Pydantic AI 应用、8 个模型做了 5,276 次评分运行，对比 code mode 与直接工具调用。长任务上 code mode 平均成本降 58%、耗时降 51%、成功率提高 16 个百分点；但 5 条目的短任务在 5 个任务中有 3 个反而贵了 21% 到 38%。作者认为模型写循环比充当循环更擅长，差距随任务变长而扩大。
/Pydantic AI 为什么 code mode 能削减你的 agent 账单 Michael Pfaffenberger mpfaffenberger 21 分钟前 2026/10/28 作为 Markdown 现在和我交谈的每个人对 code mode 都有自己的看法。我的看法则是由 Prime Intellect 的 Prime Agent点燃的，这是一个围绕持久化 REPL 构建的编码工具框架，此外还有 Alex Zhang 的 推测性程序化工具调用，它（除其他功能外）能在模型仍在流式输出代码时运行工具。 Cloudflare 就有一个。 Anthropic 也有一个。我们自己也有过几个，从 MCP 代码执行 到 Pydantic Monty编码智能体也在朝同一方向演进： OpenCode 2 现在默认通过 Code Mode 发送 MCP 工具，而 Pi 则自带一个 codemode 工具。常见的宣传话术大致是这样的：别再让模型一次调用一个工具，而是让它写一个小程序来调用这些工具，这样一切都会更便宜、更快、更好。 我信这一点。但我见过的几乎每个数字都来自拥有数百个工具或庞
匹配字段正文
Perplexity 于 2026 年 10 月 27 日发布 LLM 网关实践指南，说明这一中间层如何路由、鉴权、缓存和记录模型调用，并区分 API 网关、LLM 网关、MCP 网关与 AI 网关四类形态。指南以六步请求生命周期拆解机制，同时警告网关集中了各家供应商凭证，并引用 Microsoft 披露的 LiteLLM 网关入侵事件和 Check Point 报告的 CVE-2026-35029、CVE-2026-59823 两个高危漏洞（已在 LiteLLM 1.83.9 修复）。文中还列出 Cloudflare AI Gateway 与 OpenRouter 的故障复盘、四条部署路径及约 50 美元/月起的付费方案。
e API Management 的 AI 网关。 在成本方面，指南指出，LLM 网关的价格从免费的开源软件到每月约 50 美元起的付费方案不等，企业版则采用定制定价；有些网关则按比例收费：指南指出，OpenRouter 的 Standard 方案会在购买额度时额外收取 5.5%。 指南最后给出了针对具体供应商的解答。指南指出，Amazon Bedrock AgentCore Gateway 通过 AWS 所称的“推理目标”支持模型调用，让应用程序使用一个端点即可访问包括 Amazon Bedrock、OpenAI 和 Anthropic 在内的供应商。指南指出，Perplexity 自家的 Agent API 支持 OpenAI 的 Responses API 接口，因此团队可以复用现有的 OpenAI 客户端库；并且 Agent API 允许用户按偏好顺序列出最多五个模型，包括来自不同供应商的模型。指南还提到了 Perplexity 的开源项目 Numbat，它通过本地钩子连接到受支持的智能体，并能在计划中的操作（如 shell 命令或文件写入）执行前对其进行检查，阻止功能为可选项
匹配字段正文
作者用 Cursor 配合 Claude Opus 5.5 做出零依赖的本地网页工具「情商外挂」，把带情绪的草稿按《非暴力沟通》四要素改写，并内置七类沟通对象与温和、坚定、直接三档语气。工具跑在本机 127.0.0.1:8787，通过 UUMit 客户端生成固定 HTTPS 链接分发给同事，无需买服务器或备案，权限可按人发放和收回。文中还给出单次输入 800 字限制、默认每分钟 10 次与每天 200 次的限流设置，以及两个 GitHub 仓库的源码和 System Prompt。
到情商外挂点击接入，系统会立刻分配一个专属的固定 HTTPS 网址： 用手机打开这个链接测试，秒开丝滑： 这就顺带解锁了另一个高频场景：家里或工位电脑开着跑工具，人在地铁或出差路上，手机点开链接就能随时改消息。 3.5 写清楚主页与能力介绍 同事打开链接，最怕看到一头雾水的技术词汇。UUMit 提供了能力展示主页，建议只写场景任务，别堆空洞名头。写沟通大师 Agent没人知道能干嘛，写把带火气的话改成对方听得进去的说法，大家立刻就知道在什么时候用它。 3.6 选开放范围 应用接入后，默认处于只有我的安全锁定状态。UUMit 提供了三档范围切换： 需要注意：UUMit 负责控制谁能打开入口。为了防止外部人员过度调用打爆你的模型额度，频率与总量限额已经在情商外挂自己的设置面板里完成了管控（详见第四部分）。 3.7 邀请同事/朋友 分享流程极简，总共三步： 在右侧「成员与邀请」模块点击邀请朋友，生成专用邀请链接与二维码； 点击复制链接通过微信或飞书发给同事（当面直接扫码亦可）； 同事点开链接，通过手机号或已有账号登录 UUMit 后即可直接进入工具，加入后会自动出现在你的成员管理列表中。 整
匹配字段正文
Google A2UI 团队与 CopilotKit CEO Atai Barkai 介绍如何用 A2UI 开放标准和 CopilotKit 构建生成式 UI 应用。A2UI 以声明式 JSON 描述界面，客户端只渲染可信组件目录中的组件，同一份响应可渲染到 React、Angular、SwiftUI、Jetpack Compose 和 Flutter。文中给出用 Google ADK 接入 CopilotKit 的代码示例，并说明通过 AG-UI 协议实现用户操作回传、智能体重新生成界面的双向流程。
都以大段文字的形式返回。它们没有标准方式来在对话本身之中渲染可选择的套餐列表、目的地地图，或引导你完成其余预订流程的日期选择器。 生成式 UI 是让智能体在运行时构建界面的层，界面形态由每个请求的需求决定——为用户带来丰富、交互式的体验。实现这一点需要两部分：一种描述 UI 的方式，以及一套智能体技术栈，将你的智能体连接到你的应用并渲染该 UI。 A2UI（Agent-to-UI）是 Google 推出的框架无关的生成式 UI 开放标准。智能体将界面描述为数据，你的应用则用你已有的组件将其绘制出来。它在设计上是传输无关的。 CopilotKit 提供智能体集成技术栈，可与“LangChain”、“AWS Strands”、“Google ADK”等智能体框架集成，用于构建面向用户的智能体应用。它提供了一套工具包，用于借助 A2UI 协议构建丰富的应用，包括聊天界面、运行时，并在 React 和 Angular 中利用 A2UI 渲染器。CopilotKit 还为 Vue 和 Slack 提供自定义 A2UI 渲染器。 什么是 A2UI？ 生成式 UI 涵盖了一系列方法，从使用预定义的高
匹配字段正文
新京报贝壳财经记者实测阿里千问Go！和蚂蚁灵光2.0，前者用一句话建好每天8点的用药提醒并逐项核对，后者在支付宝授权后梳理近半年账单。文章同时梳理了Meta Muse、OpenAI dots及字节、腾讯的布局，并指出跨生态权限是当前最难拆的墙，字节SAEP公示的拒绝名单达155款应用。
Personal Agent（个人智能体）赛道骤然变得拥挤。10月27日，蚂蚁集团发布灵光2.0，定位为“能管事的个人AI助理”，官方数据显示产品上线6天下载量突破200万。同样，阿里千问、字节、腾讯也已纷纷下场。 仅仅两个月前，这条赛道还近乎无人问津。海外市场已率先落子：9月8日Meta个人智能体Muse率先在北美上线；在10月21日三季度财报电话会上，扎克伯格披露，美加地区已有超1000万用户完成初始配置，约25%用户每日活跃，购物为核心场景，超四分之一用户在对话内完成下单，平均客单价逾200美元。10月28日Muse落地新加坡，接入Shopee、Lazada、Grab等本地服务。紧随其后，9月29日OpenAI发布智能体dots，现已面向部分订阅用户开放，订阅费每月100美元起。 海外布局推进之际，国内大厂跟进节奏更为密集。9月22日云栖大会，阿里千问宣布加码Personal Agent方向；10月13日推出个人专属助理“千问Go！”。字节被曝将代号Spell的项目与豆包深度整合，独立产品命名“小豆”；腾讯则同步在云端、桌面、微信生态三线布局卡位。 继通用大模型、企业Agent之
匹配字段正文
Browser Use 发布教程，介绍在没有 API 的供应商门户上自动登录并每日下载发票的三种方案：Playwright 脚本、UiPath 或 Power Automate 等 RPA 工具，以及带保存配置的浏览器智能体。文章给出 Playwright 与 Browser Use Cloud 的完整代码，涵盖复用登录会话、用 1Password 填入 TOTP 验证码、通过 GitHub Actions 定时运行，以及会话过期、2FA 拦截、页面改版和空下载等失败场景的处理方式。作者建议先向供应商索取导出、API 或邮件发票，并提醒先确认门户条款是否允许自动化访问。
登录信息会保存到配置文件中（配置文件）。保留配置文件 ID。 将密码和 TOTP 放入 1Password。 一个专用保险库、一个具有读取权限的服务账户，在 Settings Secrets 下连接（1Password 指南）。 one-time-password 字段会输入当前代码。仅在门户将你登出时需要。 编写运行并收集文件。 列出运行会话使用的浏览器（agentSessionId），然后列出每个浏览器的下载（下载 API): daily invoices.py import os, pathlib, time, requests from browser use sdk.v4 import BrowserUse API = "https://api.browser-use.com/api/v4" KEY = {"X-Browser-Use-API-Key": os.environ["BROWSER USE API KEY"]} def op(alias, field): one 1Password field, typed only on the portal's host re
匹配字段正文
Browser Use 发布教程，介绍用一份 JSON Schema 在多个网站提取结构化数据的流程：静态页面抓取 Markdown 后由 LLM 填充，需要登录或点击的页面交给浏览器智能体。文章给出可靠性清单，包括开启结构化输出、用 Pydantic 或 Zod 校验、缺失字段返回 null、保留 source_url 与原文引用、按稳定键去重、遵守 robots.txt 并抽样核对。文中还对比了 Firecrawl、Crawl4AI、Browser Use、Stagehand 和自建 Fetch+Markdown+LLM 在登录与 JS 流程、Schema 支持、开源与计费上的差异。
ots.txt 和网站条款。抽查：在信任一次运行之前，将随机抽取的记录样本与实时页面进行比对，并在网站变更后再次比对。用保存的代码重新运行：对于重复执行的任务，保留可用的提取脚本，而不是每次都从头提示。哪个工具适合你工具它是什么登录、JS 流程？Schema 支持开源？计费模式Firecrawl托管抓取 API。JSON 模式按页面提取，也用于爬取和搜索；/agent 取代 /extract，为你查找页面Y robots.txt 以及网站条款。 抽查： 在信任一次运行之前，将随机抽取的记录样本与实时页面进行比对，并在网站变更后再次比对。 用保存的代码重新运行： 对于重复执行的任务，保留可用的提取脚本，而不是每次都从头提示。 哪个工具适合你 工具它是什么登录、JS 流程？Schema 支持开源吗？计费模式 Firecrawl托管抓取 API。 JSON 模式 按页面提取，也用于 抓取和搜索; /agent它取代了 /extract，为你查找页面是： 操作 在抓取之前，以及 Interact ，并为登录后的页面保存配置文件JSON Schema，还是只用提示词核心 AGPL-3.0；仅 A
匹配字段正文
AWS 发布教程，介绍在 Amazon Bedrock 上调用 OpenAI 模型时如何用提示词缓存降低智能体重复读取上下文的成本，区分隐式缓存与显式 prompt_cache_breakpoint 两种方式并建议组合使用。文中给出工具与指令缓存、多轮历史滚动断点、会话中途新增工具、子智能体共享前缀等代码示例，并称在 GPT-6 Astra 的六轮工作负载中隐式缓存降低约 62% 输入成本，显式滚动断点降低约 61%。可缓存前缀需至少 1024 token，缓存写入按正常输入价格的 1.25 倍计费。
态部分：即在各请求之间保持不变的各类工具和指令。这些示例使用你现有的 Amazon Bedrock 客户端、 TOOLS，以及 task请将缩短的 INSTRUCTIONS 字符串替换为你真实的策略和示例。可复用的前缀必须达到 1,024 个 token 才符合条件。 缓存静态内容时，请使用显式模式：选择已保存前缀的结束位置。 KEY = "support-agent:v7:gpt-6-astra" INSTRUCTIONS = "Your full support policies and examples..." Rendered context: [provider context][TOOLS][INSTRUCTIONS] | [task] Cache starts at the beginning; the marker below chooses its end. resp = client.responses.create( model="us.openai.gpt-6-astra", store=False, Response storage; prompt cachi
匹配字段正文
Netflix 构建 Observability Ontology 与 RDF 知识图谱 QuipuDB，用类型约束把 LLM、模糊匹配等非确定性输出收成可 SPARQL 查询的确定性三元组，再喂给 AutoRCA。图谱覆盖约 12 个命名空间，Application 对照约 4.9 万软件目录校验；Correlation Engine 读取 13 类信号，在约 10 分钟窗内按时间邻近与严重度找路径，置信度低于 0.6 的相关链被丢弃。作者还整理了自建时的八条原则，并提到下一步计划与 Netflix UDA 的领域建模语言 Upper 对接。
万并发流；日常 20 亿+ 请求/天量级、约 3800 万实时日志事件/秒（文中数字）。 · 典型回归：首页列表渲染慢约 1.5s → 告警；嫌疑可在客户端版本、A/B、基础设施限流、下游 6 跳 GraphQL 坏数据等。 · 调查时间线约 4 小时：几乎不在「算难题」，而在重建各系统其实知道、却从未写成可发现关系的映射。 为何不是「多看板」或「直接上 Agent」 Atlas / Radar / https://t.co/jia3pZ05T4 / PagerDuty / Spinnaker / Slack 各自自洽、对外孤立；同名实体后缀、大小写、改名不一致，跨域 join 靠人。给 Agent 错上下文会幻觉，on-call 更危险。本质是数据建模问题：缺一份机器可读的实体约定。 本体与图谱 · 本体 = 类型、属性、允许关系；单元是三元组（主语–谓词–宾语）。例：api-gateway ops:ownedBy "Team Bedrock"，一次查询即可答「us-east-1 里 Bedrock 应用相关的事故」。 · 技术栈：RDF / OWL / SHACL / SPARQ
匹配字段正文
SemiAnalysis 工程团队在 Trainium3 上实测了原生 PyTorch 训练栈 TorchNeuron 与 TorchTitan，用 Qwen3-32B 在 16 颗 Trainium2 上训练，eager 模式达 11,099 tokens/s、23.89% MFU，compiled 模式达 14,156 tokens/s、30.47% MFU。作者认为 Neuron Explorer 剖析器优于 Nvidia 和 AMD 的方案，但首次编译耗时过长，gpt-oss 训练配方首步编译用了 27 分 17 秒。FlexAttention 测试通过 96 个用例中的 89 个，7 个失败均因编译超时而非数值错误。
rch体验也完全支持这一点。 我们看到Google如何成功与Inferact/RadixArk合作，将TPU引入vLLM/SGLang生态系统，并且还让Meta成为TPU的生产客户。此外，通过将TPU引入vLLM/SGLang生态系统，TPU已经能够自动获得对Muse Spark Open的第0天支持，以及对即将推出的热门模型的第0天TPU支持的承诺。 虽然agentic coding的增加确实使引擎代码本身变得不那么重要，但vLLM/SGLang带来的是生态系统。无论开源模型是什么，在第0天，全球ML社区都信任vLLM/SGLang作为推理的首选引擎。没有任何vibe-coded引擎具有这种覆盖范围。 我们开始看到Trainium通过硬件访问以及在基于原生PyTorch构建的SGLang上（TorchNeuron）提前访问Trainium，迅速投资于vLLM/SGLang社区，类似于TorchTPU方法。 来源：SemiAnalysisTorchTitan体验 TorchTitan是最受欢迎的开源预训练框架之一，我们测试了Neuron的支持，以评估研究人员使用Trainium训练一个
匹配字段正文