搜索“NVIDIA”

Dynamo实现会话感知推理

NVIDIA Dynamo 使用统一会话标识实现 会话感知路由、调度与KV缓存管理

查看事件：Dynamo实现会话感知推理

微软与英伟达开启Windows新合作

Microsoft与NVIDIA 合作 Windows下一阶段发展

查看事件：微软与英伟达开启Windows新合作

英伟达团队提出PivotOPD

NVIDIA、Princeton University和University of Maryland研究团队 提出 面向多轮LLM智能体错误预防与恢复的在策略蒸馏方法PivotOPD

查看事件：英伟达团队提出PivotOPD

英伟达团队提出PivotOPD

2026年10月8日,NVIDIA联合普林斯顿大学和马里兰大学的研究团队提出PivotOPD,一种面向多轮LLM智能体的在策略蒸馏方法,旨在训练智能体避开最具破坏性的早期关键错误并在犯错后恢复。据MarkTechPost报道,该方法在ALFWorld、WebShop和Search-based QA上测试,Qwen3-1.7B与Qwen3-8B学生模型对13个基线取得全部8项基准平均分第一;重放关键错误时恢复率达72.7%,标准OPD仅20.3%。报道称该方法只改训练、推理零额外开销,但代码尚未发布。目前尚无后续发展事实。

Google扩大SynthID验证服务

2026年10月7日,Google将SynthID Detector从面向媒体从业者的早期版本扩展至全球英文用户,任何人可检查图像、视频或音频是否由Google及其合作伙伴的AI生成。据Google介绍,合作方包括OpenAI、NVIDIA、Kakao,Apple也将加入。Google称自2023年推出SynthID以来,已为超过1800亿张图像和视频、24万年时长的音频添加水印,Search、Gemini应用和Chrome中的验证功能每天处理超过100万次请求。后续报道称,该工具支持JPG、PNG、MP4和MP3格式,只能识别带有SynthID水印的内容,并非通用AI检测器。

Mistral发布一万亿参数Mistral Large 4预览版

2026年10月6日,Mistral发布一万亿参数开放权重模型Mistral Large 4预览版。据Mistral AI官方信息,该模型为1万亿参数、490亿激活参数的原生多模态模型,权重将于本月底开放,在Mistral欧洲自有数据中心的3800块NVIDIA Grace Blackwell GPU上从零训练,训练数据覆盖160多种语言,官方称其在网络安全、金融、法律等企业负载上达到开源模型领先水平,在Artificial Analysis Cyber Index上进入全球前五,复现并修补真实漏洞的测试得分82%,Cybench解题率93%。Artificial Analysis的评测显示,该模型智能指数得分38,与GPT-6 Luna(max,38)相当,低于DeepSeek V4.1 Flash(max,39),网络防御指数得分50,CyberGym-E2E-AA得分82%,支持512k token上下文窗口,接受文本和图像输入、输出文本,API单次请求可接受100张图片,标准定价为每1M输入/输出token 1.36/4.18美元。同日,Thomas Wolf发布预告称Mist

Hao AI Lab发布可在消费级设备运行的FastH3

2026年10月6日,Hao AI Lab发布FastVideo FastH3视频生成模型,可在单台消费级设备上本地运行,支持NVIDIA RTX GPU、DGX Spark和Apple Silicon。据其发布信息,FastH3 V2在8步内超过MiniMax H3基座模型,单张RTX 5090生成5秒480p带音频片段耗时15秒,768p约35–39秒。同时发布的FastH3 Trim体积比基座H3小4.2倍,最低8 GB显存即可运行,模型、Cookbook与代码已开放。技术说明称,团队在1000条提示词上校准每个FP4层,以避免未校准FP4 scale下激活值被裁剪。目前尚无后续独立发展事实。

Ghost发布3499美元个人AI电脑Core

2026年10月5日,Ghost发布售价3499美元的个人AI电脑Core。据TechCrunch AI报道,Ghost由19岁创始人Zain Javaid创立,在结束一年隐身开发后完成由Andreessen Horowitz领投的1100万美元种子轮。Core搭载Nvidia RTX Pro 4000 SFF Blackwell GPU,预装Qwen-3.8-Next、Qwen-3.8-27B和Gemma-4-31B三个模型,可本地运行AI智能体。首批预购已开启,计划于10月最后一周发货。目前尚无后续发展事实。

构建Cosmos3-DROID学习管线

2026年10月6日,MarkTechPost发布教程,介绍如何构建基于NVIDIA Cosmos3-DROID的流式机器人学习管线。教程演示无需下载其707 GB仓库,而是通过HTTP byte-range与PyArrow按行组、列读取Parquet,并用基于seek的PyAV/FFmpeg只解码所需的AV1视频窗口。随后将episode转为状态-动作轨迹,用数据集统计量归一化,构建ACT风格分块PyTorch数据集并训练多模态行为克隆策略。最后以开环rollout和时间集成评估,报告逐关节MSE与R^2并保存策略checkpoint。目前该故事尚无后续发展事实。

Hao AI Lab开源DJev-serve推理引擎

2026年10月5日,Hao AI Lab开源了DJev-serve推理引擎。据该实验室介绍,每一步都是DJev在DiffusionGemma上的一次前向传播,零token生成;该开源引擎在NVIDIA GB200 NVL72和B200上,把每个决策作为一张CUDA graph运行。目前尚无后续有合格事实证据的发展,事件状态停留在开源发布这一节点。

Hao AI Lab开源Minecraft AI玩家Jev

Hao AI Lab开源了Minecraft智能体Jev,并在1,795轮对局后公布其工作方式。该智能体不训练模型,而是由SOTA LLM智能体在人工监督下,从机器人自身日志中进化提示词。在Block UHC对真人玩家时,它赢下70%的回合。据其说明,面对满技能脚本对手时,v1全败,不到两小时后v9全胜。每次决策为DJev在DiffusionGemma上的一次前向传播,不生成token,在NVIDIA Blackwell上耗时24 ms,团队称比某领先推理引擎快2.5倍。团队同时开源推理引擎DJev-serve,在GB200 NVL72和B200上以单个CUDA graph执行每次决策。

美国政府与前沿AI公司达成自愿性AI安全承诺

2026年9月29日至10月1日,美国政府与多家前沿AI公司达成自愿性AI安全承诺。据The Verge AI报道,特朗普宣布的《前沿责任联合承诺》全文公布,由David Sacks线上分享,签署者包括Google的Sundar Pichai、Anthropic的Dario Amodei、Meta的Mark Zuckerberg、OpenAI的Greg Brockman、xAI的Elon Musk和Nvidia的Jensen Huang,特朗普本人也署名。协议要求各公司自行安全开发技术,定期会面制定标准和最佳实践,列出四条确保前沿模型按预期运行、问题能被快速发现和解决的规则,但未提及违约惩罚。财联社报道称,特朗普在白宫会见马斯克、黄仁勋、苏姿丰、皮查伊、纳德拉、布罗克曼等AI领袖,重申反对政府干预,提出“自我监管”是应对AI脱离人类控制的解决之道,并表示政府正考虑成立一个10人委员会监督AI行业。Anthropic CEO阿莫代伊称具体应对机制仍在讨论中,该技术仍构成“真实的风险”。

Prime Intellect推出Prime Inference推理平台

2026年10月,Prime Intellect推出面向前沿开源模型的推理服务平台Prime Inference,提供无服务器端点和预留GPU容量,支持通过OpenAI SDK接入,并具备跨数据中心自动故障转移能力。据其官方发布,首个公开部署的GLM-5.3已于9月22日上线OpenRouter,工具调用错误率接近零、上线以来保持100%可用;服务栈结合NVIDIA Dynamo、vLLM、Mooncake和FlashInfer,采用预填充与解码分离部署,在GB200 NVL72上以1:4的P/D比例实现每组66个会话、每用户101 tok/s。另有报道称,该平台在公开发布前内部日均处理近一万亿token,负载来自RL rollout、合成数据生成、评测和长时间运行的编码智能体,测试中p90词元间延迟降低近40%。

PyTorch将Helion集成至vLLM线性后端

2026年10月3日,PyTorch将Helion集成进vLLM的线性后端。据PyTorch Blog介绍,该后端用单个Helion GEMM实现覆盖Standard GEMM、Split-K和Swap-AB等变体,并通过按shape自动调优选择最佳配置。在NVIDIA Hopper GPU上,该后端结合按shape调优与混合调度,在评测模型中超过vLLM默认的CUTLASS和DeepGEMM后端,部分工作负载吞吐提升超过10%。目前尚无后续发展事实。

OpenRouter推出模型路由器基准页面

2026年10月2日,OpenRouter上线Model Router Benchmarks页面,用跨领域基准对各家模型路由器按质量、速度和成本打分,并列出单模型作为对照基线。页面引入Router Index,默认按质量60%、每任务耗时20%、成本20%合成0到10分,权重可用滑块调整。被评测的路由器包括OpenRouter的Auto Router、Unbiased的Pareto、Sakana的Fugu、Jev Router和NVIDIA的Switchyard,均可在OpenRouter上直接替换模型调用。后续报道补充称,评测对象还包括Free Models Router,页面同时列出DeepSeek v4 Flash与GPT-6 Astra等单模型作为基线,例如GPT-6 Astra每token平均价格高出48倍以上、在Codex中跑10到49轮会话贵21倍。目前该页面已上线,尚无进一步更新。

TLX优化Blackwell上的JFA

2026年10月2日,PyTorch团队发布博客,展示使用TLX(Triton Low-level Extensions)在NVIDIA Blackwell(B200)上优化Meta生成式广告模型GEM的Jagged Flash Attention内核。该内核约3.2K行Triton级代码,比约10K行的CuteDSL版FlashAttention-4(FA4)少约3倍;在GEM关注的jagged形状上,前向快约13%、反向快约50%。目前尚无后续发展事实。

Together AI扩建企业推理集群

Together AI 联合IBM和NVIDIA扩建 基于IBM Cloud的NVIDIA B300企业推理集群

查看事件：Together AI联合IBM和NVIDIA扩建企业推理集群

构建Cosmos3-DROID学习管线

MarkTechPost 发布教程构建 基于NVIDIA Cosmos3-DROID的流式机器人学习管线

查看事件：构建Cosmos3-DROID学习管线

英伟达优化确定性预训练

NVIDIA 优化 Megatron Core位级确定性预训练方案

查看事件：英伟达优化确定性预训练

Dell为AI Data Platform新增智能体AI能力

Dell为其AI Data Platform新增面向智能体的AI能力。据The Next Platform报道,此次新增功能包括Unified Semantic Layer和Enterprise Knowledge Graph,使智能体不必在每次请求时重建上下文,从而减少token消耗与计算成本。平台还整合了Nvidia Nemotron Retriever模型、cuVS库与Auto-Ontology开源库,并依托PowerScale、ObjectScale和Lightning File System提供exabyte级存储能力。目前尚无后续发展事实。