←搜索结果

按匹配度 · 共 2011 条结果 清除搜索

星期一

  1. OpenAI Newsroom

    OpenAI 与 SB Energy、NVIDIA 合作在俄亥俄州 Pike County 建设数据中心

    OpenAI 宣布达成协议,使用位于俄亥俄州 Pike County 的 PORTS-Pike Technology Data Center 算力容量,合作方包括 SB Energy、NVIDIA 和美国能源部。SB Energy 将承担为该数据中心服务的全部电网升级和新建输电线路费用,避免成本转嫁给俄亥俄州及其他地区用户;数据中心采用闭环风冷系统循环用水,预计用水量显著低于历史上 Portsmouth 气体扩散工厂的用量。项目预计在截至 2032 年的六年建设期内创造 35,000 个建筑岗位和 2,500 个长期运营岗位,并带来 8,000 万美元初始社区投资,其中 OpenAI 出资 4,000 万美元、SB Energy 已有 4,000 万美元承诺。OpenAI 还将在 2026–2027 学年向约 844,000 名符合条件的俄亥俄州高校及技术学校 18 岁以上学生提供最高 8,400 万美元的 Codex 额度。

    匹配字段标题、摘要、正文

星期四

  1. NVIDIA Developer · Generative AI精选

    NVIDIA 在 GB300 NVL72 上部署 Qwen3.8-2.4T-A95B,单 GPU 吞吐超 4K tokens/s

    NVIDIA 发布在 GB300 NVL72 上部署阿里开源权重模型 Qwen3.8-2.4T-A95B 的方案,该模型总参数 2.4T、每 token 激活 95B,采用细粒度 MoE 与全注意力加线性注意力混合架构,上下文窗口最高 100 万 tokens。在 FP8 精度下 Day 0 即实现单 GPU 超 4K tokens/s、单用户超 350 tokens/s,NVFP4 优化预计带来进一步提升。SGLang、vLLM 和 NVIDIA Dynamo 提供开源推理配方,也可通过 NVIDIA NIM 容器部署,并可用 NeMo AutoModel 做全量 SFT 或 LoRA 微调。

    匹配字段标题、摘要、正文

星期三

  1. NVIDIA Developer · Generative AI

    NVIDIA JetPack 7.2.1 新增智能体视频技能与 T3000 模拟

    NVIDIA JetPack 7.2.1 首次在 Jetson 上支持 PyNvVideoCodec 2.2,这是用于 GPU 硬件加速视频编解码的 Python 库,帧以 GPU 设备内存形式通过 DLPack 和 CUDA 缓冲区暴露,并支持多模式帧采样与后台线程预解码的 ThreadedDecoder。该版本还通过统一的 jetson-videosdk 技能引入基础智能体视频工作流,可在 Video Codec SDK 与 PyNvVideoCodec 之上完成设备检查、配置生成、执行与性能测量验证。此版本技能仅覆盖 Video Codec SDK 和 PyNvVideoCodec,不含 GStreamer、V4L2 或 AI 模型层面的流水线构建技能。

    匹配字段标题、摘要、正文

  2. The Next Platform

    Nvidia 发布 Nemotron 3.5 Lightning 模型与 NeMo Switchyard 路由库

    Nvidia 发布 Nemotron 3.5 Lightning 开源模型和 NeMo Switchyard 路由库,前者面向持续运行的智能体任务,官方称在同级中实现 4 倍吞吐、完成智能体任务速度提升 30%,并可在 Jetson、GeForce RTX、DGX Spark 和 DGX Station 上本地运行。Switchyard 让开发者自定义模型池、路由标准和策略,把推理密集型步骤交给前沿模型、把执行类任务交给 Lightning,官方称其以 Anthropic Opus 4.8 约三分之一成本取得更好准确率。Nvidia 同时公开训练数据与方法,并发布用于训练编码智能体的开放数据集 Nemotron-RL-Agentic-Terminal-Pivot。

    匹配字段标题、摘要、正文

星期二

  1. NVIDIA Developer · Generative AI精选

    NVIDIA 发布 Nemotron 3.5 Lightning 开源 MoE 模型,面向长时智能体执行层

    NVIDIA 发布 Nemotron 3.5 Lightning,这是一个 30B 总参数、3B 激活参数的开放 MoE 模型,面向长时运行智能体的高并发低延迟执行任务。模型在预训练阶段内置多 token 预测(MTP)投机解码,并提供 DSpark 与 DFlash 草稿模型,同时发布 NVFP4 量化与 BF16 检查点,可在 Blackwell、Hopper、Ampere GPU 及 DGX Spark 上运行。在 PinchBench 上它以 86% 准确率完成 10000 个任务,速度比 Qwen3.6 35B 快 30%,权重与训练数据按 OpenMDW-1.1 协议开放,并可用 LoRA、SFT 和 NeMo RL 定制。

    匹配字段标题、摘要、正文

  2. NVIDIA Developer · Generative AI精选

    NVIDIA 发布 NeMo Switchyard,为 AI 智能体提供跨模型路由

    NVIDIA 发布 NeMo Switchyard,为 AI 智能体提供跨模型路由能力,可在专用模型与前沿模型之间按任务分配请求,以平衡性能、成本与效率。该工具提供免调优的 LLM 分类器、阶段路由器和升级路由器,也支持基于工作负载数据训练的预填充路由器,并可通过 OpenAI、Anthropic 和 Responses API 接入。LangChain 在 145 个多轮智能体任务上测试升级路由器,在 Nemotron 3.5 Lightning 与 Claude Opus 4.8 之间路由,仅 7% 调用发往前沿模型,成本降低 74%,准确率约有 6 个百分点的折让。

    匹配字段标题、摘要、正文

  3. LMSYS Blog精选

    SGLang 为 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持

    SGLang 宣布为 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持,开发者可通过其 OpenAI 兼容推理栈部署该模型。Nemotron 3.5 Lightning 是从 Nemotron 3 Ultra 蒸馏而来的 30B 混合 MoE 模型,每 token 仅激活 3B 参数,支持 MTP、DFlash、DSpark 三种投机解码,并可通过 enable_thinking 与 thinking_budget 控制推理开关和深度。模型权重已在 Hugging Face 提供 BF16 和 NVFP4 版本,官方称其在相近准确率下完成智能体任务最多快 30%。

    匹配字段标题、摘要、正文

  4. Ollama Blog精选

    NVIDIA Nemotron 3.5 Lightning 上线 Ollama,30B 参数本地运行

    NVIDIA Nemotron 3.5 Lightning 已在 Ollama 上线,可完全在本地设备运行。这是一个 30B 总参数、每 token 仅 3B 激活的开放模型,采用混合 MoE 架构,支持最高 1M token 上下文,面向持续运行的智能体任务,如读取文件、调用工具、整理结果和失败重试。官方称其吞吐量比同类开放模型高 4 倍,任务完成时间快 30%,并针对 Apple silicon 提供 nemotron-3.5-lightning:30b-mlx 版本。

    匹配字段标题、摘要、正文

星期一

  1. NVIDIA Developer · Generative AI精选

    Meta 发布 30B 开源模型 Muse Glimmer,可在单张 NVIDIA GPU 上跑本地智能体

    Meta 发布 Muse Glimmer,一个 30B 开源权重稠密模型,上下文窗口 120K+,面向本地 AI 智能体工作负载。该模型采用稠密架构,每个 token 激活全部参数,在 NVIDIA Blackwell Ultra 上以 BF16/NVF4 精度实现单 GPU 超过 20K tokens/s,可完整放入单卡显存,无需模型分片、CPU offload 或外部端点,覆盖 GeForce RTX 5090、DGX Spark、DGX Station 和 Jetson 平台。开发者可用 NeMo AutoModel 做全量 SFT 和 LoRA 微调,权重已上线 Hugging Face,并提供 SGLang、vLLM 推理方案和可下载的 NIM 容器。

    匹配字段标题、摘要、正文

星期四

  1. Chips and Cheese

    Chips and Cheese 逐条拆解 NVIDIA Vera 白皮书中的论证问题

    Chips and Cheese 对 NVIDIA 45 页 Vera 白皮书提出质疑,认为 Olympus 核心与 88 核单体芯片的设计本身扎实,但白皮书把 x86 的 SMT 画成时间片轮转、把可配置的 32 NUMA 节点当作默认负担、把四个 SPEC 整数负载称作 agentic benchmarks,并用无标注图示给出 1.8 倍强化学习结果。作者引用 Phoronix 5 月的早期测试称 Vera 几何均值比 5 GHz EPYC 9575F 高 10%、是 Xeon 6980P 的 1.55 倍,但指出 NVIDIA 自测的 Turin 内存带宽约 400 GB/s 与其实测约 570 GB/s 不符,按实测 Vera 的总带宽优势约为 1.9 倍而非白皮书所示的近 3 倍。

    匹配字段标题、摘要、正文

星期三

  1. NVIDIA Developer · Generative AI精选

    NVIDIA 解析世界动作模型如何重塑机器人操作

    NVIDIA 技术博客介绍世界动作模型(WAM),即用视频世界模型替代视觉语言模型骨干,为机器人策略提供预测场景演变的物理先验。文章称 WAM 能从多样交互数据中学习、泛化到未见环境,并以更少演示适配新机器人本体。其开源基础模型 Cosmos 3 基于 Mixture-of-Transformers 架构,训练数据含约 7.67 亿张图像、3.48 亿段真实动态视频和 800 万条动作样本,提供 4B Edge、16B Nano 和 64B Super 三种规模;其中 Cosmos3-Nano-Policy-DROID 与 Cosmos3-Edge-Policy-DROID 分别可在 RTX PRO 6000 工作站和 Jetson Thor 上以 15 Hz 控制频率部署。

    匹配字段标题、摘要、正文

星期二

  1. NVIDIA Developer · Generative AI

    NVIDIA Vera 存储基准:面向 AI 原生存储的加密、压缩、校验与恢复性能

    NVIDIA Vera CPU 在存储数据路径基准测试中全面超过所测 x86 CPU:AES-128 加密吞吐最高 1.43 倍、解密最高 1.29 倍,Reed-Solomon 恢复最高 3.26 倍,CRC32C 校验最高 3.67 倍,压缩最高 3.29 倍、解压最高 1.72 倍,压缩加密两阶段流水线最高 3.21 倍。Vera 集成 88 个 Olympus Armv9.2 核心、176 线程、164 MB 统一 L3 缓存与 SOCAMM2 LPDDR5X 内存,并作为 NVIDIA Vera BlueField-4 STX 存储处理器进入存储数据路径。

    匹配字段标题、摘要、正文

星期六

  1. NVIDIA Developer · Generative AI

    NVIDIA 详解面向快速交互式长上下文推理的 AI 模型注意力协同设计

    NVIDIA 技术博客分析 dense attention 在 GPU 上的性能规律:增大 group size(G)可提升 decode 吞吐,head dimension 取 128 或 256 更契合 GPU tile 与 128 字节内存传输;prefill 延迟随 ISL 平方增长,decode 延迟随 KV cache 序列长度线性增长。文章给出四条协同设计准则,并指出张量并行不应超过 KV head 数(KH),TensorRT-LLM 以 Wide EP 和 Helix Parallelism 应对。

    匹配字段标题、摘要、正文

星期五

  1. NVIDIA Developer · Generative AI

    NVIDIA nvmath-python v1.0 正式发布:为 CUDA-X 数学库提供 Python 抽象层

    NVIDIA 发布 nvmath-python v1.0,为 cuFFT、cuBLASLt、cuDSS、cuSPARSE、cuTENSOR、cuBLASMp 等 CUDA-X 数学库提供 Python 抽象层,支持从 CPU 到多 GPU、多节点规模的加速数学运算。该库引入通用稀疏张量(UST),可通过领域特定语言创建应用最优稀疏格式而无需编写代码实现,并支持 pip、conda、uv 或 pixi 安装。用户可通过 pip install nvmath-python[cu13] 开始使用。

    Decorative math image.

    匹配字段标题、摘要、正文

  2. NVIDIA Developer · Generative AI精选

    NVIDIA AI Red Team 总结部署更安全 AI 智能体的四种方式

    NVIDIA AI Red Team 在六个月内评估了多个 AI 智能体,归纳出四类反复出现的失效模式:缺少访问控制、工具允许任意代码执行、缺少网络出口控制、密钥以明文暴露。团队指出基于提示词的护栏和 LLM-as-a-judge 模式常被社会工程、渐进式操纵和恶意包安装等合法工作流绕过,有效防护需要模型控制面之外的确定性控制,包括严格访问控制、Docker 或 NVIDIA OpenShell 等加固沙箱、默认拒绝的网络出口以及通过专用密钥管理器让密钥远离智能体。

    匹配字段标题、摘要、正文

星期四

  1. NVIDIA Developer · Generative AI

    如何用 NVIDIA NeMo Guardrails 自托管经过校验的 AI 编码助手

    NVIDIA 发布教程,介绍如何用 StarCoder2-7B NIM 在自有 GPU 上自托管编码助手,并在其前面部署 NeMo Guardrails 拦截认证、支付、加密等人工专属路径的请求。方案还包括带 ai-assisted 标签的 CI 校验门,运行单元测试、SAST、密钥扫描、幻觉依赖检测和许可证检查,以及通过 commit trailer 追踪 AI 辅助改动,并用 Prometheus 与 Grafana 对比 AI 辅助与基线的缺陷逃逸率、回滚频率和评审延迟。

    匹配字段标题、摘要、正文