←搜索结果

按匹配度 · 共 2011 条结果 清除搜索

星期二

  1. NVIDIA Developer · Generative AI

    NVIDIA Isaac ROS 5.0 如何用 AI 智能体加速 ROS 2 节点

    NVIDIA 在 ROS Lyrical 中贡献的 rosidl::Buffer 与 CUDA buffer backend 让 ROS 2 节点在运行时条件允许时以零拷贝方式交换 GPU 常驻数据,同时保留标准 ROS 2 消息与节点边界,Isaac ROS 5.0 的全部节点已改用该 CUDA buffer backend。文章以 Depth Anything 3 TensorRT ROS 2 节点为迁移示例,由 AI 编码智能体借助 migrate-node-to-rosidl-buffer 技能完成审计、最小化接口保持重构,并用 NVIDIA Nsight Systems 验证 ROS 边界不再出现负载大小的主机-设备传输。

    匹配字段标题、摘要、正文

  2. NVIDIA Developer · Generative AI

    NVIDIA Dynamo-Triton 26.07 集成 TensorRT 多设备推理

    NVIDIA Dynamo-Triton 26.07 启用 TensorRT 后端的多设备推理能力,一个 KIND_MODEL 实例可占用多块 GPU 并通过单个 gRPC 端点对外提供分布式推理服务,TensorRT 11.0 起完整支持该能力。以 Cosmos 3 Nano 视频生成为例,Ulysses 上下文并行把 44,160 个视频 token 分配到最多八块 GPU,端到端生成延迟从单 GPU 的 156.6 秒降至八 GPU 的 34.2 秒,transformer RPC 加速比达 6.09 倍。CP2、CP4、CP8 的输出通过 MAE ≤ 25 与 PSNR ≥ 18 dB 的质量阈值校验,但该基准未测量并发吞吐、单视频成本或 TCO。

    匹配字段标题、摘要、正文

  3. NVIDIA Developer · Generative AI

    NVIDIA 如何评估 AI 智能体:从工具调用到任务完成

    NVIDIA 提出 AI 智能体评估已从单次函数调用打分转向基于可执行环境的完整任务完成度衡量,分为步骤级过程评分与端到端结果评分两层,指标按 Benchmark→Trial→Task→Turn→Step 层级汇总。Nemotron 3.5 Lightning 在该框架下于 PinchBench 取得 86% 准确率,完成任务速度比同类模型快 30%。企业部署应以真实工单和 API 构建的领域评估为准,并以环境状态而非孤立调用准确率作为发布门槛。

    匹配字段标题、摘要、正文

  4. NVIDIA Blog

    NVIDIA 推出 DSX Ready 认证计划,为 AI 工厂电力与冷却产品设门槛

    NVIDIA 推出 DSX Ready 认证计划,用于审核合作伙伴产品是否符合 NVIDIA DSX AI 工厂参考设计要求,首批覆盖电池储能系统(BESS)和冷却分配单元(CDU)两类。首批通过认证的 BESS 方案来自 Hitachi Energy、LG Energy Solution 和 Tesla,CDU 方案来自 LG Electronics、LiquidStack 和 Vertiv。后续还将逐步扩展至更多基础设施与软件类别。

    匹配字段标题、摘要、正文

  5. NVIDIA Blog

    NVIDIA Halos:为什么物理 AI 需要在每一层都保证安全

    NVIDIA 推出 Halos,称其为物理 AI 领域首个也是唯一一个全栈安全系统,覆盖设计、验证与部署各层。面向自动驾驶,Halos 包含 DRIVE AGX Thor、Hyperion、基于 ASIL-D 认证 DriveOS 的 Halos OS、Alpamayo 推理视觉语言动作模型及安全评估框架;面向机器人则包含 IGX Thor、Holoscan Sensor Bridge、Isaac Lab 与 Omniverse。ABI Research 预计 2035 年 L3-5 自动驾驶汽车保有量达 4900 万辆,Omdia 估计 2026 至 2035 年间约 6000 万台工业机器人将部署。

    匹配字段标题、摘要、正文

星期一

  1. NVIDIA Blog

    NVIDIA:AI 安全是工程问题——如何在智能体栈的每一层解决它

    NVIDIA 提出 AI 安全是工程问题,需要明确的安全需求、可执行的管控、指定负责人和防护有效的证据。其开源安全运行时 NVIDIA OpenShell 在智能体之外强制执行策略并提供沙箱执行,Cisco DefenseClaw 在其上增加治理层,JFrog 则集成 OpenShell 扫描和验证智能体技能。CrowdStrike SafeMind、Palo Alto Networks Prisma AIRS、Capital One VulnHunter 和 ReversingLabs Spectra Assure 等被列为测试、红队与代码安全分析工具。

    匹配字段标题、摘要、正文

星期日

  1. Recode China AI

    华为加速追赶 Nvidia 至 2027,北京称 Amodei 的 AI 减速论是“散布恐慌”,Manus 估值翻倍

    华为在 HUAWEI CONNECT 2026 上发布 Peerium 计算架构、面向 10 万亿参数模型的 Atlas 960E SuperPoD 及 AI Cluster Service,并计划到 2027 年推出两款 Ascend 级芯片对标 Nvidia。北京将 Anthropic CEO Dario Amodei 的“放缓”前沿 AI 呼吁斥为散布恐慌,特朗普则淡化对 AI 发展的限制。Manus 寻求 40 亿美元估值融资 5 亿美元,Z.ai 目标再融约 50 亿美元并将 ARR 目标上调 25% 至约 30 亿美元,DeepSeek 聘请高瓴交易人出任 CFO 筹备 IPO。

    Tony Peng's avatar

    匹配字段标题、摘要、正文

星期六

  1. NVIDIA Developer · Generative AI

    NVIDIA AIPerf:取代 GenAI-Perf 的大规模 LLM 推理基准测试工具

    NVIDIA 发布 AIPerf,作为 GenAI-Perf 的指定继任者并完全重写,采用多进程架构避免客户端在高并发 LLM 基准测试中成为瓶颈。该工具支持超过 15 种端点类型,以及 ShareGPT 和来自 Mooncake、Baseten、WEKA AgentX 的 trace replay 格式,并提供 constant、Poisson、gamma 等可配置到达模式。AIPerf 报告 TTFT、ITL、请求延迟和输出 token 吞吐量等核心指标,附带百分位细分,并在可用时通过 DCGM 或 pynvml 提供 GPU 遥测。

    匹配字段标题、摘要、正文

星期四

  1. NVIDIA Developer · Generative AI

    NVIDIA 如何用 AI 智能体为仿真准备 3D 场景

    NVIDIA 展示了一套基于 Omniverse Libraries 的智能体工作流,把 Blender 场景处理成可用于机器人仿真的 SimReady OpenUSD 资产:Codex(由 OpenAI GPT-6 Astra 驱动)或 Claude 负责统筹任务,NVIDIA NemoClaw 部署基于 Hermes 的专用子智能体,调用 ovphysx 编写物理属性、ovrtx 渲染预检视图,并执行 SimReady 验证。OpenUSD 作为共享契约层保留层级与元数据,智能体可迭代添加语义标签、碰撞网格、刚体属性和相机与激光雷达传感器定义,最终交付给 Isaac Sim 或 Isaac Lab。

    匹配字段标题、摘要、正文

  2. NVIDIA Developer · Generative AI

    NVIDIA 用 AI 智能体将 cuTile Python 内核翻译为 cuTile Rust

    NVIDIA 在 TileGym 仓库中推出 AI 智能体技能,将 cuTile Python 和 Triton-TileIR 内核翻译为 cuTile Rust,已移植全部 24 个公开 TileGym 算子,平均达到 cuTile Python 性能的 99.5%。该流程采用有界多智能体工作流,每阶段以机器可校验的判定收尾,并通过与参考 Tile IR 做 diff 验证结构等价。在 NVIDIA DGX B200 上,24 个算子的几何平均加速比均超过 0.95 阈值,整体性能持平于 0.995。

    匹配字段标题、摘要、正文

星期三

  1. The Next Platform

    Infleqtion 与 Nvidia 降低量子计算机物理量子比特与逻辑量子比特之比

    Infleqtion 在 IEEE Quantum Week 上宣布,借助其开源 qLDPC 软件库与 Nvidia 新发布的 CUDA-Q Logical 编译器层,构建出经验证的高码率量子纠错码:用 98 个物理数据量子比特编码 18 个逻辑量子比特,约合每个逻辑量子比特 5.4 个物理量子比特,编码率达 18.4%。该码块包含 49 个 X 校验和 49 个 Z 校验,每个权重为 6,规范逻辑代表权重为 4。后续工作将扩展到物理症状提取、中性原子噪声建模、探测器生成与解码器基准测试。

    匹配字段标题、摘要、正文

  2. NVIDIA Developer · Generative AI

    NVIDIA 解析 Dense 与 MoE 模型:活跃参数、吞吐量与选型指南

    NVIDIA 技术博客对比 Dense 与 MoE 架构:Nemotron 3.5 Lightning 采用 MoE,每 token 仅激活 30B 总参数中的 3B,而 Gemma 4 31B 等 Dense 模型每次前向传播激活全部参数。相同总参数量下 MoE 吞吐更高,但高并发时延迟优势收窄;MoE 将内存成本与计算成本解耦,微调需防路由失衡,量化对路由层影响也不同。选型应看内存预算、并发需求、微调计划与量化行为,而非仅看参数量。

    匹配字段标题、摘要、正文

  3. NVIDIA Developer · Generative AI

    NVIDIA Groq 3 LPX 的确定性执行如何为 Vera Rubin 带来高能效高交互推理

    NVIDIA Groq 3 LPX 的确定性执行模型可对全部 256 颗 LPU 芯片的计算与数据搬运做时钟周期级精确调度,配合 Preemptive Power(PEP)与 Clock Period Synthesis(CPS)将电压跌落降低 60% 以上,同一负载功耗下降低两位数百分比。Groq 3 LPX 与 Vera Rubin NVL72 组合,在 2T+ 参数模型的长上下文高交互场景下,每兆瓦吞吐量最高可达上一代 GB200 NVL72 的 35 倍。

    匹配字段标题、摘要、正文

  4. NVIDIA Developer · Generative AI

    NVIDIA NVLink 6 如何为 AI 工厂提供多层弹性

    NVIDIA NVLink 6 通过轻量级 FEC、物理层重试(PLR)和 UPHY 恢复在硅片层面纠正信号错误,并以基于信用的流控从设计上消除丢包,为 AI 工厂提供原生无损网络。其 NMX Controller 采用“contain and drain”状态配合 NMX High Availability,可在数秒内隔离故障并迁移控制功能;Dynamo 的 Shadow Engine Recovery 在 B200 GPU 上以 7.3 秒恢复推理容量,而冷启动需 283 秒。NCCL 对 cuda-checkpoint 的原型支持预计年底正式可用,NVLink Fusion 则让第三方 XPU 也能继承这套弹性栈。

    匹配字段标题、摘要、正文

星期二

  1. The Next Platform

    HPE 与 Nvidia 如何用 AI 工厂实现规模化 AI 落地

    HPE AI Factory with Nvidia 是一套预集成基础设施方案,把 Nvidia 的加速计算与软件同 HPE 的安全基础设施、软件、控制平面和服务结合,覆盖从数据摄取、训练、微调到高吞吐 AI 推理的完整生命周期。该方案以 token 吞吐量衡量产出,并针对工作负载专用架构、智能体 AI 和主权 AI 等企业规模化部署挑战提供支持。

    匹配字段标题、摘要、正文

  2. NVIDIA Developer · Generative AI

    NVIDIA Transformer Engine 加速 JAX 无丢弃 MoE 训练,DeepSeek-V3 吞吐提升 10.4 倍

    NVIDIA Transformer Engine 结合 JAX,在 NVIDIA GB200 上把 DeepSeek-V3 的 MoE 训练吞吐从 103 TFLOPS/GPU 提升到 1,068 TFLOPS/GPU,达 10.4 倍。其分组 GEMM 内核可在单次调用中处理各专家不等的 token 数量,实现无丢弃 MoE;NCCL EP 融合 dispatch 与 combine 并去重 token 以降低网络流量。在 GB300 NVL72 上训练 DeepSeek-V3 671B 时,该方案在 1,024 块 GPU 下保持 97% 扩展效率。

    匹配字段标题、摘要、正文

星期六

  1. SemiAnalysis

    Nvidia 的表外担保版图:赢了我赚,输的是谁?

    SemiAnalysis 分析 Nvidia 截至 2Q F1/27 披露的 5300 亿美元表外担保,较上季度的 1840 亿美元大幅上升,主要来自供应与产能承诺从 1190 亿增至 2790 亿美元、为 SB Energy 俄亥俄 PORTS-Pike 园区提供的 1085 亿美元担保,以及首次出现的 360 亿美元 AI 云协议和 200 亿美元数据中心租约。文章认为 Nvidia 通过为 Neocloud 兜底收入、担保房东或直接签约,让非投资级运营商以投资级价格融资,其风险收益在资产负债表保持强劲时是不对称的。按作者统计,Nvidia 目前为约 6.5 GW 容量提供担保,并估算 CY24 至 CY29 的 AI 累计资本开支约 11 万亿美元。

    匹配字段标题、摘要、正文

星期五

  1. NVIDIA Developer · Generative AI

    NVIDIA 全栈 NIM 优化如何在 Nemotron 3 Ultra 上多支撑 2.5 倍用户

    NVIDIA 称 Nemotron 3 Ultra NIM 在 4xB200 系统上相比未优化的基线服务栈可实现最高 2.5 倍系统吞吐,NIM 2.0.12 优化服务栈在 50 TPS/用户(20 ms ITL)目标下达到 1,997 tokens/秒。该优化栈整合了自动调优内核、张量并行、前缀与状态复用、调度与显存调优以及 MTP 投机解码,并以微服务形式提供经校验的配置、标准 API 和 NVIDIA AI Enterprise 支持的企业级容器生命周期。开发者可用 NVIDIA AIPerf 回放自有流量,选择满足延迟 SLO 的 Pareto 点。

    匹配字段标题、摘要、正文

星期四

  1. The Next Platform

    d-Matrix 与 Nvidia 合作,将 Raptor XPU 接入 MGX 机架

    d-Matrix 宣布与 Nvidia 合作,其 Raptor XPU 平台将通过 Nvidia 的 MGX 参考架构部署,作为 AI factory 方案的一部分,未来版本 Lightning 也包含在合作范围内。Raptor 采用 3D-RAM 加速器,4 纳米计算芯片与定制 DRAM 芯片以 36 微米间距堆叠,提供 100 TB/sec 带宽,计划今年内流片、2027 年第四季度发布。在 Hot Chips 2026 上,d-Matrix 展示单机架运行 GLM 5.2 约 3000 tokens/秒/用户、Kimi K3 约 1000 tokens/秒/用户,该机架可容纳 144 个 Raptor XPU。

    匹配字段标题、摘要、正文

  2. NVIDIA Developer · Generative AI

    NVIDIA 用 Nemotron 与 Palantir Foundry 编码供应链经验:从晶圆出厂到首个 token

    NVIDIA 与 Palantir 合作在 Palantir Foundry 中构建数字供应链智能指挥中心,将材料、制造基地、产能、分配等数据统一到 Ontology 数据层,并用开源 GPU 加速决策优化库 NVIDIA cuOpt 求解关键材料分配问题,目标是最小化 Time of Ownership(TOO)。cuOpt 以混合整数线性规划求解,还能报告哪些约束成为瓶颈,让规划者快速探索不同情景。NVIDIA 称 Vera Rubin 的供应链规模是 Grace Blackwell 的两倍。

    匹配字段标题、摘要、正文