←搜索结果

按匹配度 · 共 89 条结果 清除搜索

星期三

  1. NVIDIA Developer · Generative AI

    NVIDIA 详解如何用 Nemotron-Personas 数据集微调 Nemotron 3.5 Lightning

    NVIDIA 发布 Nemotron-Personas 法国和比利时数据集,并给出用其微调 Nemotron 3.5 Lightning 的完整后训练流程。流程包括定义行为契约、用 persona 生成合成对话、在 NVIDIA NeMo 上用 LoRA 微调、合并适配器,再与基座模型在冻结测试集上逐条对比评测。法国数据集与 Pleias 合作构建,比利时数据集由 Pleias 与 KU Leuven 参与,Nemotron 仓库提供数据生成、训练和评测的可复用步骤及 agent skills。

    Flowchart showing eight stages: define target behavior and a holdout set, sample personas, generate conversations, audit and split data, fine-tune with LoRA, merge the adapter, serve the adapted model, and evaluate it against the base model.

    匹配字段标题、摘要、正文

星期一

  1. n8n Blog

    如何在 NVIDIA DGX Spark 上不调用云 API 运行 n8n AI 工作流

    n8n 博客发布教程,介绍如何在一台 NVIDIA DGX Spark 上本地部署完整模型栈,让 n8n 工作流在不调用云 API 的情况下完成转录、OCR、文档问答和图像生成。整套栈通过 LiteLLM 暴露一个 OpenAI 兼容端点,主模型为 Qwen3.6-35B-A3B 的 NVFP4 版本,单用户生成速度 120 tokens/s,八用户合计 359 tokens/s。作者实测发现图像生成会让对话速度降到约三分之一,建议小团队把图像任务排队或放到非工作时间。

    匹配字段标题、摘要、正文

星期五

  1. heise online

    RTX Spark 笔记本实测:Nvidia 首款本地 AI 笔记本芯片表现如何

    heise online 的 c't 3003 实测了搭载 Nvidia 首款笔记本芯片 N1X(品牌名 RTX Spark)的 Asus ProArt P14,该机支持最高 128 GB 统一内存,测试机为 32 GB 内存加 1 TB SSD,售价 3300 欧元。用 llama-bench 测试 Qwen 3.8-27B 时生成速度约 14.5 Token/s,略快于 Apple M6 和 Strix Halo,慢于 M5 Pro;改用 MoE 模型 Qwen 3.6-35B-A3B 可达近 61 Token/s。提示词处理速度优于 Strix Halo 和 M5 Pro、M6,但满载风扇噪音最高 2.7 sone,且空闲时也会启动。作者还尝试安装 Ubuntu,在自行补齐驱动后,两个模型在 Linux 下的速度反而比 Windows 快 14% 和 9%。

    匹配字段标题、摘要、正文

  2. Computerworld

    Surface Laptop Ultra 评测:NVIDIA RTX Spark 的本地 AI 表现

    作者实测搭载 NVIDIA RTX Spark N1X SoC 的微软 Surface Laptop Ultra,该机最高配 20 核 Grace Arm CPU、6144 核 Blackwell GPU 与 128GB 统一内存,起售价 2599.99 美元。在 UL Procyon AI 文本生成测试中得分 2703,比 Intel Core Ultra X9 388H 的 IdeaPad Pro 5 高约 33%;MLPerf Flux 2 Klein 4B 图像生成达每分钟 26.97 张,约为后者的 2.7 倍。作者还用本地 Qwen3.8-27B 驱动 Hermes 智能体,约五分钟完成从 Excel 提取基准图表并生成 Word 报告。

    匹配字段标题、摘要、正文

  3. Artificial Analysis

    Artificial Analysis 实测 NVIDIA RTX Spark 笔记本本地智能体性能

    Artificial Analysis 首次公布 AA-AgentPerf-Local 结果,搭载 NVIDIA RTX Spark N1X 的笔记本在 Qwen3.8 27B 上完成默认本地智能体负载(8 个任务、168 个模型轮次)耗时 18.7 分钟,接近 DGX Spark 的 17.3 分钟,比 MacBook Pro(M5 Pro,64 GB)快 2.0 倍,比 AMD Ryzen AI Halo 快 1.8 倍,GeForce RTX 5090 台式机最快为 4.9 分钟。N1X 芯片本质上是 DGX Spark 的 GB10(20 核 Arm CPU、6,144 核 Blackwell GPU),最高 128 GB 内存、带宽 300 GB/s;测试机型为 15 英寸 Surface Laptop Ultra 原型机(128 GB,5,900 美元),插电并设为 Windows 高性能模式,使用 NVIDIA 公布的 llama.cpp 配方。在 Qwen3.6 35B A3B 上耗时 7.6 分钟,在 Ling 3.0 Flash 上耗时 15.3 分钟,后者的 77 GB 权重无法装入 MacBook Pro 或 RTX 5090。

    匹配字段标题、摘要、正文

  4. Artificial Analysis

    NVIDIA Vera Rubin NVL72 智能体推理首测:每兆瓦吞吐最高约 5.7 倍于 GB300

    Artificial Analysis 在 AA-AgentPerf 上发布 NVIDIA Vera Rubin NVL72 的初步结果,在 DeepSeek V4 Pro 上每兆瓦总吞吐最高约为前代 GB300 NVL72 的 5.7 倍,DeepSeek V4.1 Flash 约 5.4 倍,GLM-5.2 约 3.0 倍,Kimi K3 约 2.8 倍。Vera Rubin 是 NVIDIA Blackwell 的继任者,NVL72 为机架级系统,含 72 颗 Rubin GPU 和 36 颗 Vera CPU,每颗 GPU 内存与 Blackwell Ultra 同为 288 GB,但内存带宽为 2.4 倍、NVLink 带宽 1.7 倍、密集 NVFP4 算力 2.3 倍。AA-AgentPerf 通过回放真实智能体编码会话衡量推理性能,Vera Rubin 在 DeepSeek V4.1 Flash 上创下 906 tok/s 的单用户速度纪录。

    匹配字段标题、摘要、正文

星期四

  1. Artificial Analysis 完整文章

    NVIDIA RTX Spark N1X 笔记本首份 AA-AgentPerf-Local 测试结果

    Artificial Analysis 公布 NVIDIA RTX Spark N1X 笔记本的首份 AA-AgentPerf-Local 结果,该机在 Qwen3.8 27B 上完成本地智能体负载耗时 18.7 分钟,接近 DGX Spark 的 17.3 分钟,比 MacBook Pro(M5 Pro)快 2.0 倍、比 AMD Ryzen AI Halo 快 1.8 倍。测试使用 128 GB 统一内存、6144 核 Blackwell GPU 的原型 15 英寸 Surface Laptop Ultra,售价 5899.99 美元,通过 llama.cpp 的 Windows 原生构建在 GPU 上运行模型。在 Qwen3.6 35B A3B 上耗时 7.6 分钟,在 124B 的 Ling 3.0 Flash 上耗时 15.3 分钟,后者无法装入 MacBook Pro 或 RTX 5090 的内存。

    匹配字段标题、摘要、正文

星期三

  1. NVIDIA Developer · Generative AI

    NVIDIA 如何用 AI 智能体重写 Apache Spark UDF 实现 GPU 加速

    NVIDIA 介绍用 AI 智能体重写 Apache Spark UDF 的方法,通过 Spark SQL 表达式、RapidsUDF 接口或 JNI 调用自定义 CUDA kernel 三种方式消除 CPU 回退,实现 20 倍以上加速。cuDF skills for Apache Spark 将重写拆成测试、转换、基准测试和优化四个带验证反馈的环节。一家大型消费科技公司用该流程改造了 30 多个生产 UDF,其中一个 UDF 影响 3000 多个作业,改写后提速 22 倍。

    匹配字段标题、摘要、正文

星期五

  1. LMSYS Blog

    SGLang 与 Miles 在 NVIDIA Vera Rubin 上的适配与优化

    LMSYS 团队提前拿到两个 NVIDIA Vera Rubin 节点(8 块 GPU),把 SGLang 推理和 Miles 强化学习训练搬上该平台。推理侧针对 Kimi K3 NVFP4 调整了 attention、MoE/通信和 KDA 内核,例如更深的 MLA 流水线在 batch 16、128k 上下文下快 16%,融合 MoE 尾部每步减少 276 次内核启动、端到端提升 5.9%。训练侧 Miles 用 SGLang 做 rollout、Megatron 做训练,在单托盘 4 块 GPU 上开箱跑通 Qwen3-30B-A3B 的 GSM8K 训练,奖励从约 45% 升到 95%,并在 Vera CPU 上以 64 个沙箱运行 SWE-bench Verified 的智能体 RL。

    Deeper MLA pipeline using Vera Rubin shared memory

    匹配字段标题、摘要、正文

  2. NVIDIA Developer · Generative AI

    NVIDIA KGMON 团队分享 KDD Cup 2026 数据分析智能体亚军方案

    NVIDIA KGMON 团队在 KDD Cup 2026 Data Agents 竞赛中获得第二名,方案核心是在固定的小模型外构建更小、更清晰、更易验证的 harness。团队把 CSV 和 JSON 统一转成 SQLite 表,只暴露 schema() 和 sql(query) 等少量工具,并在主推理循环前加入 schema 预检步骤,减少路由错误并保留模型的推理能力。文档检查与结构化分析分离,prose_helper 用零温度、关闭推理的独立 LLM 调用抽取答案或表格,避免原始文本占用主上下文;执行轨迹记录提示词、工具调用和中间结果,供专门的 inspector agent 归类失败原因。

    匹配字段标题、摘要、正文

星期二

  1. Chips and Cheese

    NVIDIA Olympus 核微架构实测:以每时钟性能冲击服务器单线程上限

    Chips and Cheese 对 NVIDIA 服务器核 Olympus 做了微架构实测,该核为 10 宽乱序设计、主频 3.3 GHz,靠加大乱序结构和 SMT 提升每时钟性能。在 SPEC CPU2026 中其单线程性能接近 Intel 与 AMD 桌面核,明显领先 Neoverse V2 和 N2,但测试系统使用 64 KB 页,与其他 4 KB 页结果对比存在偏差。作者指出其空间多线程把 L1、L2 和调度队列等资源静态对半分,整数负载收益与 Zen 5 相当,浮点后端受限负载上则出现吞吐下降。

    匹配字段标题、摘要、正文

星期六

  1. NVIDIA Developer · Generative AI

    NVIDIA 用 NemoClaw 构建记忆驱动的 Chief of Staff 智能体

    NVIDIA 团队用 NemoClaw 构建了记忆驱动的 Chief of Staff 智能体,通过 Markdown 自模型与 SQLite 账本分离证据与判断。在 Agent Memory Benchmark 上,自模型将整体准确率从 82.8% 提升到 90.9%,变化事实的跟踪率从 60.0% 提升到 100%。运行时由 NVIDIA OpenShell 沙箱管控文件系统、进程和网络访问,凭据留在沙箱之外,相关配方与设计提案已开源在 NVIDIA/nemoclaw-community 仓库。

    匹配字段标题、摘要、正文

星期四

  1. NVIDIA Developer · Generative AI

    NVIDIA 教程:后训练 Cosmos 3 Edge 实现 Jetson Thor 端侧机器人控制

    NVIDIA 发布教程,介绍如何后训练 4B 的 Cosmos 3 Edge 全能模型,使其在 NVIDIA Jetson Thor 上原生运行机器人操作策略。在 Jetson AGX Thor T5000 上,该策略约 1.53 秒生成一个动作块,单个动作块覆盖约 2.13 秒机器人运动,因此无需数据中心 GPU 即可连续实时控制。在 RoboLab 闭环评测的 120 项语言条件操作任务中,后训练后的 Edge 策略成功率为 22.9%,Nano 为 36.8%。训练数据为 nvidia/Cosmos3-DROID 数据集,含 76k 条成功遥操作轨迹、约 350 小时、86 项任务和 564 个场景;后训练与部署脚本已在开源 cosmos-framework 仓库提供,检查点发布在 Hugging Face。

    匹配字段标题、摘要、正文

星期三

  1. NVIDIA Developer · Generative AI精选

    NVIDIA 解析世界动作模型如何重塑机器人操作

    NVIDIA 技术博客介绍世界动作模型(WAM),即用视频世界模型替代视觉语言模型骨干,为机器人策略提供预测场景演变的物理先验。文章称 WAM 能从多样交互数据中学习、泛化到未见环境,并以更少演示适配新机器人本体。其开源基础模型 Cosmos 3 基于 Mixture-of-Transformers 架构,训练数据含约 7.67 亿张图像、3.48 亿段真实动态视频和 800 万条动作样本,提供 4B Edge、16B Nano 和 64B Super 三种规模;其中 Cosmos3-Nano-Policy-DROID 与 Cosmos3-Edge-Policy-DROID 分别可在 RTX PRO 6000 工作站和 Jetson Thor 上以 15 Hz 控制频率部署。

    匹配字段标题、摘要、正文

星期五

  1. NVIDIA Developer · Generative AI精选

    NVIDIA AI Red Team 总结部署更安全 AI 智能体的四种方式

    NVIDIA AI Red Team 在六个月内评估了多个 AI 智能体,归纳出四类反复出现的失效模式:缺少访问控制、工具允许任意代码执行、缺少网络出口控制、密钥以明文暴露。团队指出基于提示词的护栏和 LLM-as-a-judge 模式常被社会工程、渐进式操纵和恶意包安装等合法工作流绕过,有效防护需要模型控制面之外的确定性控制,包括严格访问控制、Docker 或 NVIDIA OpenShell 等加固沙箱、默认拒绝的网络出口以及通过专用密钥管理器让密钥远离智能体。

    匹配字段标题、摘要、正文

星期四

  1. NVIDIA Developer · Generative AI

    如何用 NVIDIA NeMo Guardrails 自托管经过校验的 AI 编码助手

    NVIDIA 发布教程,介绍如何用 StarCoder2-7B NIM 在自有 GPU 上自托管编码助手,并在其前面部署 NeMo Guardrails 拦截认证、支付、加密等人工专属路径的请求。方案还包括带 ai-assisted 标签的 CI 校验门,运行单元测试、SAST、密钥扫描、幻觉依赖检测和许可证检查,以及通过 commit trailer 追踪 AI 辅助改动,并用 Prometheus 与 Grafana 对比 AI 辅助与基线的缺陷逃逸率、回滚频率和评审延迟。

    匹配字段标题、摘要、正文

星期四

  1. vLLM 官方博客

    SemiAnalysis InferenceMAX 评测解析:vLLM 与 NVIDIA 加速 Blackwell 推理

    vLLM 与 NVIDIA 针对 Blackwell 优化大语言模型推理,在相近延迟下,gpt-oss 120B 和 Llama 3.3 70B 的吞吐量较上一代 Hopper 最高提升约 4x。双方通过一百多个 pull request 优化注意力、GEMM、MoE 内核、图融合和异步调度,并加入自动量化后端选择与 FlashInfer 自动调优。SemiAnalysis InferenceMAX 每日更新测试结果,以不同输入输出长度和 Pareto 前沿比较吞吐量与响应速度。

    匹配字段标题、摘要、正文

星期六

  1. Artificial Analysis

    Artificial Analysis 实测 Meta Muse Spark Open 推理吞吐

    Artificial Analysis 在 AA-AgentPerf 上发布 Meta 新开源权重模型 Muse Spark Open 的初步测试结果,该模型为 816B 参数、42B 激活的 MoE,在 Artificial Analysis Intelligence Index 上得分 39。测试显示 NVIDIA B300 与 GB300 在吞吐优先配置下每兆瓦功耗均可达约 150M tokens/s,GB300 在 100 tok/s 输出速度下约 108M、B300 约 92M;AMD MI355X 在 65 tok/s 下为 70M tokens/s 每兆瓦。模型 62 层中有 46 层采用 2,048-token 滑动窗口注意力,使 1M 上下文下的 KV cache 需求较全注意力降低约 75%,Meta 发布了 NVFP4 checkpoint,AMD 发布了 MXFP4 checkpoint。

    匹配字段摘要、正文

  2. SemiAnalysis

    SemiAnalysis 实测 Trainium3 的 PyTorch 训练与 Neuron Explorer 剖析器

    SemiAnalysis 工程团队在 Trainium3 上实测了原生 PyTorch 训练栈 TorchNeuron 与 TorchTitan,用 Qwen3-32B 在 16 颗 Trainium2 上训练,eager 模式达 11,099 tokens/s、23.89% MFU,compiled 模式达 14,156 tokens/s、30.47% MFU。作者认为 Neuron Explorer 剖析器优于 Nvidia 和 AMD 的方案,但首次编译耗时过长,gpt-oss 训练配方首步编译用了 27 分 17 秒。FlexAttention 测试通过 96 个用例中的 89 个,7 个失败均因编译超时而非数值错误。

    匹配字段摘要、正文

星期三

  1. 邵猛

    Shopify 将开源小模型训练成 GraphQL 子 Agent,速度快 7 倍、成本降约 90%

    Shopify 工程团队在 NVIDIA GTC Berlin 2026 演讲中介绍,其电商助手 Sidekick 采用前沿模型负责对话规划、自部署开源模型负责 GraphQL 子 Agent 的分工。他们选用总参数 300 亿、每 Token 激活 30 亿参数的 MoE 模型 Nemotron 3.5 Lightning,经 6 轮后训练和 6.1 万条修复样本,评审分数从开箱 37.7 提升到 74.5,略高于前沿模型的 73。GraphQL 任务上中位响应 0.87 秒,前沿模型 API 为 6.50 秒,成本低约 90%。

    匹配字段摘要、正文