vLLM 新增对 NVIDIA Nemotron 模型家族的部署支持
vLLM 现已支持部署 NVIDIA Nemotron 开放模型家族,可在数据中心和端侧硬件上运行智能体推理。Nemotron Nano 2 采用混合 Transformer–Mamba 架构并提供可配置的 thinking budget,开发者可调节精度、吞吐量和成本;其模型权重及超过 9T tokens 的训练数据已在 Hugging Face 提供。
#产品更新#部署/工程#Agent
vLLM 现已支持部署 NVIDIA Nemotron 开放模型家族,可在数据中心和端侧硬件上运行智能体推理。Nemotron Nano 2 采用混合 Transformer–Mamba 架构并提供可配置的 thinking budget,开发者可调节精度、吞吐量和成本;其模型权重及超过 9T tokens 的训练数据已在 Hugging Face 提供。
#产品更新#部署/工程#Agent
vLLM 从 v0.10.2 起为 OpenAI 兼容 API 增加 `return_token_ids` 参数,可随文本返回输入的 `prompt_token_ids` 和生成结果的 `token_ids`。该功能避免推理文本在训练时重新分词产生不同 token 序列,Agent Lightning v0.2 会自动启用参数并通过追踪能力收集训练所需数据。

#产品更新#Agent#部署/工程
Anthropic 为 Claude Code 推出两项基于沙箱的新功能:沙箱化 bash 工具和云端运行的 Claude Code on the web,前者以 beta 研究预览形式开放并已开源。沙箱通过文件系统隔离和网络隔离两层边界限制 Claude 可访问的目录与服务器,官方称内部使用中权限提示减少 84%。云端版本将每个会话放在隔离沙箱中运行,git 凭证和签名密钥不进入沙箱,由自定义代理服务处理 git 交互。
#产品更新#Agent#安全/对齐
Ollama 云服务上线 GLM-4.6 和 Qwen3-coder-480B,并更新 Qwen3-Coder-30B,使其在新引擎中工具调用更快更可靠。显存超过 300GB 的用户还可在本地运行 qwen3-coder:480b。官方文档新增了在 VS Code、Zed、Droid 中使用 Ollama 的接入说明,云端模型也可通过 ollama.com 的云 API 直接调用。
#产品更新#编码#部署/工程
vLLM TPU 现由 tpu-inference 驱动,通过统一的 JAX→XLA 降低路径支持 PyTorch 和 JAX,并在无需修改模型代码时将吞吐量提高约 20%。新版默认采用 SPMD,引入支持任意模型规格、量化 dtype 和张量并行的 RPA v3,其在 Trillium(v6e)上的吞吐量较 RPA v2 提高约 10%。当前整体性能已接近 2025 年 2 月首个 TPU 原型的 5x,并支持稠密模型、多模态输入、前缀缓存、分块预填充和结构化解码等能力。

#产品更新#部署/工程#开源生态
Anthropic 推出 Agent Skills,把指令、脚本和资源组织成文件夹,让 Claude 按需动态加载以完成特定任务,目前已支持 Claude.ai、Claude Code、Claude Agent SDK 和 Claude Developer Platform。技能以 SKILL.md 为核心,启动时只预载 name 和 description 元数据,Claude 判断相关后再读取完整内容,并可进一步按需读取目录内捆绑的 reference.md、forms.md 等文件,实现三级渐进披露。文中以 PDF 技能为例,说明技能可捆绑 Python 脚本供 Claude 直接执行,并给出从评测出发、按规模拆分文件、从 Claude 视角迭代等编写建议,同时提醒只从可信来源安装技能。
#产品更新#Agent#MCP/工具调用
OpenHands 发布 Refactor SDK,用于借助 AI 智能体自动化大规模重构任务,提供任务拆解、修复与验证、进度追踪三类工具。其工作流建议先建 v1-refactor 分支并写入 AGENTS.md 或 .openhands/microagents/refactor.md 作为上下文,每个智能体从该分支拉出自己的分支并向 v1-refactor 提 PR,由人工审查后再合并进 main。作者称这类任务通常只有 80-90% 可自动化,仍需理解项目全局的人参与,他目前同时管理约 5 个智能体。

#教程/实践#Agent#部署/工程
Browser Use 发布 BU 1.0,在 OnlineMind2Web 上达到 65.7% 准确率,与 Gemini 2.5 Computer Use 持平,平均 68 秒完成任务,而 Gemini 2.5 Computer Use 为 225 秒、Claude Sonnet 4.5 为 285 秒。团队称其通过 KV cache 复用、按需截图、从 DOM 直接提取 markdown 的 extract 工具以及精简输出 token 四项优化降低延迟,并建议升级到 Browser Use 0.8.0 使用。
#产品更新#Agent#部署/工程
Browser Use 发布 0.8.0,推出 ChatBrowserUse 网关,称在保持相同性能的前提下把延迟降低 6 倍,智能体可达每分钟 20 步。官方称 BU 1.0 准确率约 65%,与 Claude Sonnet 4、Claude Sonnet 4.5、Gemini 2.5 Computer Use、OpenAI Computer-Using Model 等计算机使用模型相当,但速度快 4 倍,单条轨迹纯 LLM 推理时间约 68 秒,其他模型约 225 至 330 秒。使用时只需配置 BROWSER_USE_API_KEY 一个环境变量即可接入。
#产品更新#Agent#部署/工程
Sora 将推出两项调整,为权利人提供更细粒度的角色生成控制,并探索与允许用户生成其角色的权利人分享收入。具体收入模式仍将通过试验逐步确定,相关方案计划很快启动。OpenAI 还计划先在 Sora 中迭代不同做法,再将其一致应用于旗下产品。
#产品更新#视频#OpenAI
Introducing Tinker: a flexible API for fine-tuning language models. Write training loops in Python on your laptop; we'll run them on distributed GPUs. Private beta starts today. We can't wait to see what researchers and developers build with cutting-edge open models! https://t.co/tJsgxgBuWo
#产品更新#部署/工程#开源生态
Browser Use 发布 Browser Use Cloud Infrastructure,把原生浏览器服务直接内置到 Browser Use 库中,用于绕过 Cloudflare 等反爬保护、CAPTCHA 和受限环境。用户只需设置 BROWSER_USE_API_KEY 环境变量,即可在云端规模化运行智能体,本地代码无需改动。官方称后续将简化智能体部署流程。
#产品更新#Agent#部署/工程
Cognition 宣布为 Claude Sonnet 4.5 重构 Devin,新版本速度提升 2 倍,在内部 Junior Developer Evals 上提升 12%,已在 Agent Preview 中开放,旧版 Devin 仍可使用。官方称这是自 Sonnet 3.6 以来最大的一次跃升,规划性能提升 18%、端到端评测分数提升 12%,多小时的会话明显更快更可靠。文章还记录了 Sonnet 4.5 的几个新行为,包括能感知自身上下文窗口、主动写笔记外化状态、主动写脚本和测试构建反馈回路,以及并行执行工具调用,并说明这些行为如何影响 Devin 的上下文与记忆管理设计。
#产品更新#Agent#编码
Suno 发布 Suno Studio,称其为全球首个生成式音频工作站,把 AI 生成放在音乐创作的核心位置。Studio 支持多轨时间线编辑、BPM 控制、音量与音高调整,可即时生成人声、鼓、合成器等 stem 变体,并支持上传采样、调用 Suno 曲库或从单个 stem 起步。作品可导出为音频和 MIDI 文件,回到任意 DAW 继续创作;该产品面向 Premier 用户提供桌面版。

#产品更新#语音
Ollama 上线新的 Web Search API,个人用户可使用免费额度,更高速率限制通过 Ollama 云提供。该能力以 REST API 形式提供,并在 Ollama 的 Python 和 JavaScript 库中做了更深的工具集成,可让 gpt-oss 等模型执行长时间研究任务。官方建议将模型上下文长度提高到约 32000 tokens,并推荐 qwen3、gpt-oss 等模型;同时新增 web fetch API 用于抓取单个页面,可通过 Python MCP server 在 Cline、Codex、Goose 等 MCP 客户端中启用。
#产品更新#搜索#MCP/工具调用
Transluce 宣布将 AI 智能体行为分析工具 Docent 以 Apache 2.0 许可证开源,开发者可自行部署、查看代码并提交 issue 和 pull request,托管版本仍在其服务器上提供。Docent 用于探索大量智能体对话记录中的异常行为,并能把诸如“模型是否在 reward hacking”这类模糊问题逐步转成精确的行为评分标准,再据此量化该行为出现的频率。Transluce 表示开源是为了让技术接受公开检验,并帮助政府、第三方非营利组织、学术界和 AI 公司等评估者使用和扩展该工具。

#开源/仓库#Agent#部署/工程
Google 正在面向美国 Mac 和 Windows 桌面用户推出 Chrome 版 Gemini,用户可就正在阅读的任意网页请求解释和摘要。企业版将在未来几周通过 Workspace 提供,并配备企业控制功能。
#产品更新#Agent#Google
Ollama 上线新的模型调度系统,运行前会精确测量所需显存,取代此前版本的估算方式。官方称这能显著减少显存不足导致的崩溃、把更多显存分配给 GPU 以提升 token 生成与处理速度,并改善多卡及不同型号 GPU 混用时的调度表现,nvidia-smi 与 ollama ps 的显存读数也将一致。新引擎中的模型默认启用该功能,已支持 gpt-oss、llama4、gemma3、qwen3、mistral-small3.2 等,llama3.2、llama3.1、qwen3-coder 等将陆续迁移。
#产品更新#部署/工程#开源生态
Ollama 上线云端模型预览,让用户在本地工具中运行个人电脑放不下的大模型,云端不保留用户数据。首批可用模型包括 qwen3-coder:480b-cloud、gpt-oss:120b-cloud、gpt-oss:20b-cloud 和 deepseek-v3.1:671b-cloud,需下载 Ollama v0.12 并登录 ollama.com。云端模型用法与普通模型一致,支持 ls、run、pull、cp,并可通过 Ollama 的 OpenAI 兼容 API 以及 JavaScript、Python、cURL 调用。
#产品更新#部署/工程#OpenAI
OpenHands 发布新版 OpenHands Cloud,用户可从 OpenHands 提供的模型列表中按 API 原价选择模型,也可使用自己的 LLM key(BYOK),不再像此前那样仅以 Claude Sonnet 为主并收取 2 倍 API 费用。官方称 GPT-5 效果不错但偏慢,Qwen-3-Coder 作为开源模型成本更低。界面同步重做,新增更清晰的起始页、全屏对话、可拖拽扩展的输入区、运行时与智能体状态区,以及可触发 OpenHands 执行 git 操作的 push、pull 和创建 PR 按钮。

#产品更新#Agent#编码