Baseten 在 Model Library 上线 NVIDIA Nemotron 3 Diarization，提供预录、流式和实时转写三种预设，单次推理即可标注最多 8 位说话人，间隔最低 320ms。该模型约 100M 参数，基于 NVIDIA Streaming Sortformer，同一 checkpoint 支持 0.32 至 30.4 秒四档算法延迟；在 RTX PRO 6000 上可维持 500 路以上并发分离流，加入转写后为 190 路。AISHELL-4 低延迟档 DER 为 9.8%，对比 Streaming Sortformer v2.1 的 27.2%，模型已在 Hugging Face 和 Baseten Model Library 开放。
匹配字段标题、摘要、正文
NVIDIA Nemotron 3 Diarization 已在 Hugging Face 和 Baseten Model Library 上线，提供批量、流式和实时说话人标注转写三种预设。该模型基于 NVIDIA Streaming Sortformer，约 100M 参数，单次前向即可输出说话人活动，最多标注 8 位说话人，同一 checkpoint 支持 0.32 至 30.4 秒四档算法延迟。Baseten 在 RTX PRO 6000 上优化后，单卡可维持超过 500 路并发小时级分离流，加入转写后为 190 路，批量吞吐比 NVIDIA 参考部署高约 1.35 倍。
匹配字段标题、摘要、正文
NVIDIA 在 ROSCon 发布 Isaac ROS 5.0，为基于 ROS 的机器人开发引入智能体工作流与新的平台支持，并新增用于环境搭建和操作的 Isaac 技能。该版本支持 ROS Lyrical 和 Ubuntu 24.04，FoundationPose 的智能体推理库让机器人感知和跟踪物体位姿的速度最高提升 5.5 倍，抓取放置流程也作为独立技能开放。Isaac ROS 5.0 支持从 Jetson Orin Nano 到 Jetson Thor 的可扩展算力，Mentee Robotics、Universal Robots、ROBOTIS 等公司已将其用于各自机器人平台。
匹配字段标题、摘要、正文
NVIDIA Dynamo-Triton 26.07 启用 TensorRT 后端的多设备推理能力，一个 KIND_MODEL 实例可占用多块 GPU 并通过单个 gRPC 端点对外提供分布式推理服务，TensorRT 11.0 起完整支持该能力。以 Cosmos 3 Nano 视频生成为例，Ulysses 上下文并行把 44,160 个视频 token 分配到最多八块 GPU，端到端生成延迟从单 GPU 的 156.6 秒降至八 GPU 的 34.2 秒，transformer RPC 加速比达 6.09 倍。CP2、CP4、CP8 的输出通过 MAE ≤ 25 与 PSNR ≥ 18 dB 的质量阈值校验，但该基准未测量并发吞吐、单视频成本或 TCO。
匹配字段标题、摘要、正文
阿里发布 Qwen3.8-Flash-Next 权重，作为 Qwen4 架构预览供开发者实验评估，这是一个 125B 参数、每 token 激活 6B 的多模态 MoE 模型，原生上下文窗口 262,144 token，借助 YaRN 可扩展至 1M token。NVIDIA 提供 SGLang、vLLM 和 TensorRT LLM 的 Day 0 功能支持，并在 GB300 NVL72 上验证推理，单 GPU 吞吐超过 16K token/秒、单用户超过 200 token/秒。开发者可用 NVIDIA NeMo AutoModel 微调、用 NeMo RL 做强化学习，权重可从 Hugging Face 或 ModelScope 下载。
匹配字段标题、摘要、正文
NVIDIA Dynamo 以预览功能形式推出影子引擎恢复，在同一批 GPU 上保留一个已完全初始化的空闲影子引擎，由 GPU Memory Service 共享已有权重而不在 HBM 中额外复制，活跃进程失败后影子引擎可在数秒内接管。在 NVIDIA B200 节点上的双 worker GLM-5.2 部署中，影子引擎恢复用 7.3 秒恢复服务，冷重启需要 283 秒，接近 39 倍差距。该功能要求 Kubernetes 1.34 或更新版本的 Dynamic Resource Allocation 并安装 NVIDIA GPU DRA 驱动，主要支持 vLLM 后端，当前预览版尚不支持将 GMS 用于 KV cache。
匹配字段标题、摘要、正文
NVIDIA 发布面向 Vera Rubin 平台的交互式 AI 推理加速器 Groq 3 LPX，Artificial Analysis 在 100K 上下文下用 Gemma 4 31B 实测中位输出速度为 3,431 tokens/秒，10K 上下文下为 3,382 tokens/秒。该加速器采用确定性执行模型，由编译器预先调度芯片间通信并细粒度重叠计算与通信，可与 Vera Rubin NVL72 组合用于 prefill-decode 分离、attention-FFN 分离和外部草稿模型投机解码等配置。在 SPEED-Bench 编码基准上，同一系统用 Gemma 4 达到中位 4,767 tokens/秒、P80 为 5,520 tokens/秒。
匹配字段标题、摘要、正文
NVIDIA 推出开源工具 SkillEvaluator，通过静态检查和有无技能对照的实机任务运行，衡量技能对智能体表现的影响。首批对 30 多个 NVIDIA 产品线的 300 多个已验证技能在 Codex 和 Claude Code 两个 harness 上评估，Correctness 平均 Skill Lift 为 41 分，Effectiveness 为 39 分；单产品差异从 +2 到 +46 分。工具还单独追踪 token 用量与执行时间，例如 jetson-optimize-memory 使 token 减少 76.9%，cuopt-install 则增加 120.3%。OpenClaw 与 Nous Research 已在 ClawHub 和 Hermes Agent 中试点集成。
匹配字段标题、摘要、正文
NVIDIA 发布在 GB300 NVL72 上部署阿里开源权重模型 Qwen3.8-2.4T-A95B 的方案，该模型总参数 2.4T、每 token 激活 95B，采用细粒度 MoE 与全注意力加线性注意力混合架构，上下文窗口最高 100 万 tokens。在 FP8 精度下 Day 0 即实现单 GPU 超 4K tokens/s、单用户超 350 tokens/s，NVFP4 优化预计带来进一步提升。SGLang、vLLM 和 NVIDIA Dynamo 提供开源推理配方，也可通过 NVIDIA NIM 容器部署，并可用 NeMo AutoModel 做全量 SFT 或 LoRA 微调。
匹配字段标题、摘要、正文
Nvidia 发布 Nemotron 3.5 Lightning 开源模型和 NeMo Switchyard 路由库，前者面向持续运行的智能体任务，官方称在同级中实现 4 倍吞吐、完成智能体任务速度提升 30%，并可在 Jetson、GeForce RTX、DGX Spark 和 DGX Station 上本地运行。Switchyard 让开发者自定义模型池、路由标准和策略，把推理密集型步骤交给前沿模型、把执行类任务交给 Lightning，官方称其以 Anthropic Opus 4.8 约三分之一成本取得更好准确率。Nvidia 同时公开训练数据与方法，并发布用于训练编码智能体的开放数据集 Nemotron-RL-Agentic-Terminal-Pivot。
匹配字段标题、摘要、正文
NVIDIA 发布 NeMo Switchyard，为 AI 智能体提供跨模型路由能力，可在专用模型与前沿模型之间按任务分配请求，以平衡性能、成本与效率。该工具提供免调优的 LLM 分类器、阶段路由器和升级路由器，也支持基于工作负载数据训练的预填充路由器，并可通过 OpenAI、Anthropic 和 Responses API 接入。LangChain 在 145 个多轮智能体任务上测试升级路由器，在 Nemotron 3.5 Lightning 与 Claude Opus 4.8 之间路由，仅 7% 调用发往前沿模型，成本降低 74%，准确率约有 6 个百分点的折让。
匹配字段标题、摘要、正文
SGLang 宣布为 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持，开发者可通过其 OpenAI 兼容推理栈部署该模型。Nemotron 3.5 Lightning 是从 Nemotron 3 Ultra 蒸馏而来的 30B 混合 MoE 模型，每 token 仅激活 3B 参数，支持 MTP、DFlash、DSpark 三种投机解码，并可通过 enable_thinking 与 thinking_budget 控制推理开关和深度。模型权重已在 Hugging Face 提供 BF16 和 NVFP4 版本，官方称其在相近准确率下完成智能体任务最多快 30%。
匹配字段标题、摘要、正文
NVIDIA 发布开源 GPU 加速的 Medical Physics Simulation 框架，作为 Isaac for Healthcare 的一部分，用于生成解剖数字孪生、模拟器械与解剖结构交互并训练强化学习策略。其中 Endoluminal Simulation Module 已正式可用，用 XPBD 求解器实时模拟柔性导管在患者特异性血管中的导航；Surgical Simulation Module 处于早期访问，可在单张消费级 GPU 上以超过 30 帧每秒模拟软组织变形与触觉反馈。Cosmos-H 系列生成式世界模型可从机器人动作生成手术视频，Cosmos-H-Dreams 经 FlashDreams 推理引擎实现超过 30 帧每秒的交互式仿真。
匹配字段标题、摘要、正文
Black Forest Labs 宣布 FLUX.2 [klein] 4B 将预装在 ASUS 新一代 ProArt 笔记本的 MuseTree 应用中，该机型搭载 RTX GPU，已在台北 Computex 2026 亮相。官方称目标是在 8GB 显存笔记本上、后台运行其他专业应用时实现 5 秒以内的图像生成，无需 API 或联网。Black Forest Labs 表示正扩展合作，为更多硬件和设备提供端侧优化的 FLUX 模型。
匹配字段标题、正文
Together AI 已上线 NVIDIA Nemotron 3 Nano Omni，为开发者提供托管式生产级多模态推理服务。该开放模型采用混合 Transformer-Mamba MoE 架构，总参数量为 30B、每个 Token 激活约 3B 参数，并支持最高 256K Token 的共享多模态上下文。开发者可通过 API 部署，也可在云端、本地或隔离环境中自行部署。
匹配字段标题、摘要、正文
Together AI在NVIDIA GTC 2026公布Dynamo 1.0、NemoClaw、Nemotron 3 Super和语音AI相关进展。NemoClaw可访问其150多个优化模型；具120B参数和1M-token上下文的Nemotron 3 Super支持专属部署，Parakeet TDT 0.6b V3也已进入模型库。
匹配字段标题、摘要、正文
SGLang 宣布在发布当天支持 NVIDIA Nemotron 3 Super，并给出安装与推理部署步骤。Nemotron 3 Super 是 120B 参数的混合 MoE 模型，每次前向仅激活 12B 参数，支持 1M token 上下文，官方称其吞吐效率最高可达上一代 Nemotron Super（Llama Nemotron Super 1.5）的 5 倍，并支持 Multi-Token Prediction 与 Thinking Budget。模型权重已在 Hugging Face 提供 BF16、FP8 和 NVFP4 版本，可配合 SGLang 在 4xH200 等配置上部署。
匹配字段标题、摘要、正文
vLLM 现已支持部署 NVIDIA Nemotron 开放模型家族，可在数据中心和端侧硬件上运行智能体推理。Nemotron Nano 2 采用混合 Transformer–Mamba 架构并提供可配置的 thinking budget，开发者可调节精度、吞吐量和成本；其模型权重及超过 9T tokens 的训练数据已在 Hugging Face 提供。
匹配字段标题、摘要、正文
面壁智能宣布开源 ForgeKernel，其智能体在约 22 小时内完成 42 轮迭代、产出 32 个内核版本，最终在 NVIDIA B200 上对 DeepSeek V4.1 FlashMLA Prefill 实现 1.098 倍性能，472 µs 对比基线 518 µs。官方 FlashMLA 实现全程封闭，智能体只能运行并计时其黑盒 CLI，无法读取源码、文档或性能剖析数据。此次开源内容包括优化后的 DeepSeek V4.1 融合预填充内核、论文中覆盖 attention、Gated DeltaNet、Kimi Delta Attention、GEMM 和卷积的内核，以及可用来优化自有内核的 ForgeKernel harness；在 27 个算子上，ForgeKernel 与 22 个专家库内核中的 18 个持平或更优，并优于三个内核生成系统已发布的全部 7 个内核。
匹配字段摘要、正文
PyTorch 基金会发布 PyTorch 2.15，所有使用 nccl 的进程组默认改用重写后的 NCCL 后端，并附带在集合通信挂起时转储现场信息的 flight recorder，可通过 TORCH_DIST_USE_NCCL2=0 或 nccl-legacy 回退。该版本还为 Apple Silicon 加入 float8_e4m3fn 与 _scaled_mm 支持，新的 grouped_mm 在 M3 Ultra 上让 MoE 解码吞吐提升 1.32–1.34 倍。默认 wheel 升级到 CUDA 13.2，同时提供 CUDA 13.4 wheel 并实验性支持 NVIDIA Rubin GPU，另新增 ROCm 10.0 wheel，且不再支持 Python 3.10 和 macOS 14。
PyTorch 基金会发布 PyTorch 2.15，所有使用 nccl 的进程组默认改用重写后的 NCCL 后端，并附带在集合通信挂起时转储现场信息的 flight recorder，可通过 TORCH DIST USE NCCL2=0 或 nccl-legacy 回退。该版本还为 Apple Silicon 加入 float8 e4m3fn 与 scaled mm 支持，新的 grouped mm 在 M3 Ultra 上让 MoE 解码吞吐提升 1.32–1.34 倍。默认 wheel 升级到 CUDA 13.2，同时提供 CUDA 13.4 wheel 并实验性支持 NVIDIA Rubin GPU，另新增 ROCm 10.0 wheel，且不再支持 Python 3.10 和 macOS 14。
匹配字段摘要、正文