NVIDIA提出四项AI智能体安全措施
NVIDIA AI Red Team 提出 企业AI智能体的访问控制、沙箱、网络出口限制和密钥管理措施
English translation is being prepared.
匹配字段标题
NVIDIA AI Red Team 提出 企业AI智能体的访问控制、沙箱、网络出口限制和密钥管理措施
English translation is being prepared.
匹配字段标题
匹配字段标题
NVIDIA 发布教程 基于StarCoder2与NeMo Guardrails的自托管验证型编码助手
English translation is being prepared.
匹配字段标题
Artificial Analysis 于 2026 年 10 月 24 日在 AA-AgentPerf 上线 Meta 新开源权重模型 Muse Spark Open 的初步测试结果。该模型为 816B 参数、42B 激活的 MoE,在 Artificial Analysis Intelligence Index 上得分 39。测试显示,NVIDIA B300 与 GB300 在吞吐优先配置下每兆瓦功耗均可达约 150M tokens/s;GB300 在 100 tok/s 输出速度下约 108M、B300 约 92M;AMD MI355X 在 65 tok/s 下为 70M tokens/s 每兆瓦。模型 62 层中有 46 层采用 2,048-token 滑动窗口注意力,使 1M 上下文下的 KV cache 需求较全注意力降低约 75%。Meta 发布了 NVFP4 checkpoint,AMD 发布了 MXFP4 checkpoint。目前尚无后续发展事实。
匹配字段摘要
2026年10月21日,Shopify工程团队在NVIDIA GTC Berlin 2026演讲中分享了其电商助手Sidekick的模型分工方案:由前沿模型负责对话规划,自部署开源模型负责GraphQL子Agent。团队选用总参数300亿、每Token激活30亿参数的MoE模型Nemotron 3.5 Lightning,经6轮后训练和6.1万条修复样本,评审分数从开箱的37.7提升到74.5,略高于前沿模型的73。GraphQL任务上中位响应为0.87秒,前沿模型API为6.50秒,成本低约90%。目前该分享为单一来源报道,尚无后续进展。
匹配字段摘要
n8n博客于2026年10月19日发布教程,介绍如何在一台NVIDIA DGX Spark上本地部署完整模型栈,让n8n工作流在不调用云API的情况下完成转录、OCR、文档问答和图像生成。教程称整套栈通过LiteLLM暴露一个OpenAI兼容端点,主模型为Qwen3.6-35B-A3B的NVFP4版本,单用户生成速度120 tokens/s,八用户合计359 tokens/s。作者实测发现图像生成会让对话速度降到约三分之一,建议小团队把图像任务排队或放到非工作时间。目前该内容仅有n8n博客这一来源。
匹配字段摘要
2026年10月16日,heise online发布了对Nvidia首款笔记本芯片N1X(品牌名RTX Spark)的实测。测试机型为Asus ProArt P14,支持最高128 GB统一内存,测试机配置为32 GB内存加1 TB SSD,售价3300欧元。用llama-bench测试Qwen 3.8-27B时,生成速度约14.5 Token/s,略快于Apple M6和Strix Halo,慢于M5 Pro;改用MoE模型Qwen 3.6-35B-A3B可达近61 Token/s。提示词处理速度优于Strix Halo和M5 Pro、M6,但满载风扇噪音最高2.7 sone,且空闲时也会启动。作者还尝试安装Ubuntu,在自行补齐驱动后,两个模型在Linux下的速度反而比Windows快14%和9%。
匹配字段摘要
n8n博客于2026年10月19日发布教程,介绍如何在一台NVIDIA DGX Spark上本地部署完整模型栈,让n8n工作流在不调用云API的情况下完成转录、OCR、文档问答和图像生成。教程称整套栈通过LiteLLM暴露一个OpenAI兼容端点,主模型为Qwen3.6-35B-A3B的NVFP4版本,单用户生成速度120 tokens/s,八用户合计359 tokens/s。作者实测发现图像生成会让对话速度降到约三分之一,建议小团队把图像任务排队或放到非工作时间。目前该内容仅有n8n博客这一来源。
匹配字段摘要
Artificial Analysis 为 OpenAI 的 HealthBench 和 HealthBench Professional 两个健康对话基准上线排行榜,前者含 5000 段与普通用户及卫生工作者的对话,后者为 525 段全部面向临床医生的对话。HealthBench Professional 上 GPT-6 Astra(max)以 66.0% 的长度调整分居首,GPT-6.1 Sol(max)为 65.1%,Claude Sonnet 5.5(max with fallback)为 63.0%。HealthBench 上 Claude Sonnet 5.5(max with fallback)以 62.1% 领先,DeepSeek V4.1 Flash(max)为 60.9%;Claude Opus 5.5 与 Claude Fable 5.1 平均回答约 5900 字符,长度调整后失分超过 11 分。
完整性分数最低(34%)。Claude Sonnet 5.5(max with fallback)在完整性上领先(63%) 完整排行榜请见此处: 宣布推出 AA-PersonalityBench:衡量 AI 模型的沟通方式 AA-PersonalityBench 衡量 AI 模型的个性和沟通风格。由 LLM 评审组成的小组按 30 项个性特质对答案进行两两比较,这些特质汇总为 8 项个性指数,同时直接从每个回复中测量 21 项沟通特征。 2026年10月19日 Reflection 发布了 Beam,这是他们的首次模型发布 Reflection 的首个模型 Beam 在 Artificial Analysis 智能指数上得分为 30,在美国开放权重模型中排名第 2 2026年10月16日 在 AA-AgentPerf 上,NVIDIA Vera Rubin NVL72 每兆瓦的总吞吐量最高可达 GB300 NVL72 的约 5.7 倍,首批结果涵盖 DeepSeek V4 Pro、DeepSeek V4.1 Flash、GLM-5.2 和 Kimi K3。 2026年10月15日$/$
匹配字段正文
2026年10月15日,Artificial Analysis 公布 NVIDIA RTX Spark N1X 笔记本的首份 AA-AgentPerf-Local 结果。测试使用 128 GB 统一内存、6144 核 Blackwell GPU 的原型 15 英寸 Surface Laptop Ultra,售价 5899.99 美元,通过 llama.cpp 的 Windows 原生构建在 GPU 上运行模型。该机在 Qwen3.8 27B 上完成本地智能体负载耗时 18.7 分钟,接近 DGX Spark 的 17.3 分钟,比 MacBook Pro(M5 Pro)快 2.0 倍、比 AMD Ryzen AI Halo 快 1.8 倍;在 Qwen3.6 35B A3B 上耗时 7.6 分钟,在 124B 的 Ling 3.0 Flash 上耗时 15.3 分钟,后者无法装入 MacBook Pro 或 RTX 5090 的内存。10月16日,NVIDIA 宣布 RTX Spark 笔记本全球开售,由 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 推出,起
匹配字段摘要
Aleph Alpha 发布开放权重模型 Kolibri-1,总参数 78B,采用 384 个专家、6 个路由专家的 MoE 结构,推理时仅激活 3.46B 参数,上下文 256K Token 并可外推至约 100 万 Token。该模型专注德语和英语,tokenizer 对德语词切分更省 Token,例如德国联邦议院术语表仅需 1137 Token,而对比的 DeepSeek-V4.1-Flash 需要 1910 Token;预训练使用 20 万亿 Token,数据截至 2026 年 6 月 18 日。作者实测其回答正确、德语推理过程明显,并称 Merlin-Arthur 协议让模型在基准中幻觉更少,但实际效果仍需在真实使用中检验。
都注意遵守欧盟《人工智能法案》和《通用数据保护条例》。此外,该提供商还使模型契合欧洲的“民主共识”。人们可以这样理解这一表述:即有些回答是中国模型出于政治原因不被允许给出的。 当然,训练过程极其耗费资源。为此,它使用Muon优化器来调整模型权重,而嵌入的缩放因子和权重仍由无处不在的AdamW优化器负责。 所需的基础设施规模巨大:预训练在96个节点上的768块Nvidia B200 GPU上进行,根据模型卡,这大约耗费了392,000 GPU小时(约合45 GPU年)。对于后训练中的强化学习,Aleph Alpha使用了一个由256块Nvidia B300 GPU组成的集群。其中特别有趣的是,有144块GPU仅负责推理。这很可能是因为GRPO方法需要不同的答案,然后对其进行相互评估。在6月中旬知识截止之后到9月底之前完成这一切,是一项了不起的成就。当然,此前已有前期工作:Aleph Alpha之前训练了Kolibri Origin模型。 为了使训练可复现,Aleph Alpha使用所谓的ModelFactory。可以把它想象成一种(以代码形式呈现的)配方,精确描述了模型的训练过程。这些配
匹配字段正文
Artificial Analysis 公布 NVIDIA RTX Spark N1X 笔记本的 AA-AgentPerf-Local 首个结果
English translation is being prepared.
匹配字段摘要
2026年10月14日,Artificial Analysis将DeepSeek V4.1 Flash加入其智能体推理性能基准AA-AgentPerf,并给出NVIDIA与AMD硬件的实测结果。在每用户100 tokens/s下,NVIDIA GB300以约261M tokens/s每兆瓦居首,其后为B300(约220M)、B200(约193M)、GB200(约178M)和MI355X(约128M)。V4.1 Flash在Artificial Analysis Intelligence Index上得分39,高于此前的V4 Pro 0813(36),参数量约为其三分之一(552B backbone、16B激活,对比1.6T与49B),最少可在2张GPU上运行,相比V4 Pro 0813在每用户100 tokens/s下每兆瓦吞吐提升约1.3倍(GB300)至6.2倍(B200)。2026年10月15日,Artificial Analysis又将AMD MI355X加入AA-AgentPerf,在单台8-GPU节点上测试Kimi K3、GLM-5.2/5.3和DeepSeek V4 Pr
匹配字段摘要
2026年9月23日,Together AI 发布 together/Tev1-4B-experimental 分类器,并同步给出自建微调教程。据其官方博客介绍,教程基于 Qwen3.5 4B 微调一个类似 Jev 的分类模型,训练成本约 17 美元、耗时约 25 分钟。流程上,教程从 Hugging Face 的多个数据集采样 38,340 条样本,经 fetch_sources.py 和 build_all.py 归一化后,使用 Together 微调服务训练,再部署到 1x_nvidia_h100_80gb_sxm 专用端点并通过 HTTP 接口调用。对于不想自行训练的用户,可直接在 Together 无服务器平台使用已上线的 together/Tev1-4B-experimental。目前该事件尚无后续发展事实。
2026年9月23日,Together AI 发布 together/Tev1-4B-experimental 分类器,并同步给出自建微调教程。据其官方博客介绍,教程基于 Qwen3.5 4B 微调一个类似 Jev 的分类模型,训练成本约 17 美元、耗时约 25 分钟。流程上,教程从 Hugging Face 的多个数据集采样 38,340 条样本,经 fetch sources.py 和 build all.py 归一化后,使用 Together 微调服务训练,再部署到 1x nvidia h100 80gb sxm 专用端点并通过 HTTP 接口调用。对于不想自行训练的用户,可直接在 Together 无服务器平台使用已上线的 together/Tev1-4B-experimental。目前该事件尚无后续发展事实。
匹配字段摘要
NVIDIA 发布 Cosmos 3 Edge机器人控制后训练与端侧部署教程
English translation is being prepared.
匹配字段摘要
vLLM与NVIDIA 联合优化并完成基准测试 Blackwell架构上的大模型推理性能
English translation is being prepared.
匹配字段摘要
Baseten 工程团队通过原生音频解码、KV cache FP8 量化和减少主机与设备同步,把 Qwen3-ASR 1.7B 在单张 RTX PRO 6000 上的批量转写吞吐提升 7 倍、延迟降低 6.9 倍。优化后一小时音频的转写成本约为 0.0013 美元,即每音频小时 1/10 美分,词错误率没有明显变化。该优化版本已作为 Baseten Model Library 的默认部署,可通过 OpenAI 兼容的转写客户端调用。

榜 的帕累托前沿。 我们实时部署的 Qwen3-ASR 1.7B 在 Coval 的语音转文本基准测试上也具有最高的质量(即最低的 WER)和最低的延迟,该基准测试涵盖了市场上领先的转写模型,包括开源和闭源模型。 ✕开放 ASR 排行榜上开源权重模型的词错误率(WER)与模型规模对比。Qwen3-ASR 1.7B(5.40%)位于帕累托前沿,与最准确的模型 NVIDIA Nemotron 3.5 Transcribe 30B-A4B(5.33%)相差仅 0.07 个百分点,而规模仅为其一小部分。 自 Qwen3-ASR 发布之日起,Baseten 就一直将其用于批量转写。以下是我们如何让它比原生实现更快的方法。 我们优化的 Qwen3-ASR 技术栈 我们从 vLLM 的 OpenAI 兼容转写端点入手,该端点将音频切分为 30 秒窗口并分批送入模型。在此基础上,我们对请求在负载下的每个阶段进行了性能分析,重点聚焦于四个方面: 原生音频解码 KV 缓存量化(不损失质量) 主机到设备同步 请求处理 以下是使我们的吞吐量提升 7 倍以上的部分关键改动。 原生音频解码 在任何模型工作开始之前
匹配字段正文
红帽工程总监 Christian Schaller 让 Claude Code 运行厂商的 Windows 驱动并抓取 USB 流量,与自己的 Linux 驱动对比,几小时内拿到第一张可识别的扫描结果,几天后支持红外扫描。他把这套方法以 MIT 协议开源为 hw-harness,包含控制 Windows 虚拟机的 winctl、抓取流量的 usbcap、切换设备的 hostdev 和 Linux 侧调试的 hwdbg。他还用同样思路修复了 ThinkPad X1 Carbon 的摄像头偏暗偏色问题,提交了内核和 libcamera 补丁,低光测试中画面亮度从 31.1 升到 90.9,但补丁尚未合并。
am. There’s still work to do. In low light, the blue channel remains about 17% below the reference, and neither set of patches has been merged. AI developer technology engineer at Nvidia, Kate Hsuan, is reviewing the kernel changes, while principal software engineer at Red Hat, Wim Taymans is handling the libcamera work. A separate Claude-generated Linux page-cache fix recently ran into a race condition during review. Inside the hw-harness toolkit Schaller has since published hw-harness on GitHu
匹配字段正文
MarkTechPost 将 30 天内发布的 GPT-6 Astra、GPT-6.1 Sol、Gemini 4 Argon 和 Claude Fable 5.1 四款前沿模型并排比较,指出基准分数重叠度高于各家发布稿的暗示,但价格、访问规则和单任务成本差异明显。Astra 与 Fable 5.1 同为每百万 token 输入 10 美元、输出 50 美元,Sol 与 Argon 标价为其五分之一,Argon 为限时价格;Artificial Analysis 数据显示 Fable 5.1 单任务成本 9.18 美元,Astra 为 4.72 美元,差距来自 token 用量而非单价。作者建议按工作负载而非榜单排名选型,多数团队默认选 GPT-6.1 Sol,Argon 目前仅面向 Fairwind 网络安全防御者开放。
Program for cyber defenders Asif Razzaq Asif RazzaqAleph Alpha Releases Kolibri: A 78.1B Open-Weight English-German MoE Model With Only 3.46B Active Parameters; Asif RazzaqInside NVIDIA’s IsaacTeleop: From Hand and Controller Tracking to Robot Actions with the Graph-Based Retargeting Engine; Asif RazzaqDecision AI Models Explained: TypeSafe Jev vs Fastino GLiDE, GLiNER2.5-Decide and Open-Source Competitors; Asif RazzaqDatalab Introduces OmniExtractBench to Fix Bias and Opacity in Extraction Ben
匹配字段正文
Baseten 工程博客作者基于 MetaInfer 技能框架,让 Claude Code 在单张 B200 上为 Qwen-3.6-35B-A3B(NVFP4)自主构建推理引擎 VibeQwen,单流解码速度最高比 vLLM 0.25.1 快 90%,TTFT 快 2.33 倍,并发 32 时单副本吞吐高出 71%。整个项目约一周、消耗约 17 亿 token 和 200 B200 小时,成本在数千美元量级。作者随后用同一知识库为图像分割模型 SAM 3.1 构建推理服务 Sammie,在单张 H100 上达到 91 张图/秒,比 Facebook 参考服务吞吐提升 50%,耗时数天、约 2 亿 token。
periment: Qwen-3.6-35B-A3B inference Setup In kicking off the experiment, I gave Claude Code with Fable 5 access to the paper and the MetaInfer Repository, as well as access to an NVIDIA B200 workstation via SSH. I told it the target hardware and provided a link to the Hugging Face repo for both the NVFP4 quantized weights I wanted to use for Qwen-3.6-35B-A3B, as well as the original full-precision weights to be used as an accuracy oracle. The agent was also able to deploy engine candidates to B
匹配字段正文