搜索“NVIDIA”

JetPack新增视频技能与T3000模拟

NVIDIA 发布 新增代理式视频技能、PyNvVideoCodec 2.2支持和T3000性能模拟的JetPack 7.2.1

查看事件：JetPack新增视频技能与T3000模拟

英伟达发布Nemotron 3.5 Lightning

NVIDIA 发布 面向长时运行智能体的开放MoE模型Nemotron 3.5 Lightning

查看事件：英伟达推出智能体MoE模型

英伟达联合资管机构建设AI基础设施

NVIDIA及多家投资机构 建立合作伙伴关系并建设 AI工厂基础设施

查看事件：英伟达联手资管机构建设AI工厂

英伟达推出智能体MoE模型

2026年8月11日,英伟达发布开放模型Nemotron 3.5 Lightning,面向长时运行智能体的高频、低延迟任务执行。该模型采用MoE架构,总参数量为300亿,每次激活30亿参数。英伟达称,其在PinchBench上的准确率为86%,在准确率相近的情况下,完成1万项任务的速度比Qwen3.6 35B快30%。模型支持推测解码,提供BF16和NVFP4 checkpoint,可从Hugging Face下载,或通过build.nvidia.com试用。

Thinking Machines Lab发布Inkling多模态MoE模型

2026年7月15日,Thinking Machines Lab发布原生多模态开放权重模型Inkling。据Hugging Face介绍,Inkling原生接收文本、图像和音频,为MoE架构,拥有975B总参数、41B激活参数和1M上下文窗口,bf16与NVFP4检查点分别需要2TB和600GB显存,已获Transformers、SGLang、vLLM和llama.cpp支持。同日,Modal官方工程博客称Inkling以Day 0合作上线Modal按token计费的托管端点,并为其定制DFlash推测解码器,在8x B200智能体负载上实现每用户250 tokens/s、每GPU 2.5M TPM,交互性比模型内置推测路径快67%。同日,LMSYS Blog称LMSYS与Thinking Machines团队合作,为Inkling在SGLang和Miles上提供Day-0支持,SGLang针对其MoE架构优化,在Nvidia Blackwell GPU上实现最高71.7k tok/s输入吞吐和171.0 tok/s单用户解码速度,Miles通过定制Megatron后端支持全参数与Lo

腾讯混元Hy-MT2推出GGUF格式

腾讯混元于2026年7月31日为Hy-MT2-30B-A3B发布GGUF格式,回应社区最迫切的本地部署需求,让本地推理更简单。自5月开源以来,Hy-MT2累计下载量超70万次,其中Hy-MT2-1.8B登上Hugging Face trending第1,30B-A3B位列第4,并已有70多个产品与项目集成。该系列还获得Apple MLX-LM、微软ONNX Runtime、NVIDIA NeMo、LLaMA-Factory等生态支持,并落地Bilibili直播评论实时多语言翻译。

Together AI发布并开源ThunderAgent

2026年7月29日,Together AI发布并开源智能体推理调度系统ThunderAgent。该系统由Together AI联合佐治亚理工、UIUC和CMU提出,将每个智能体工作流抽象为可调度程序,以程序级调度缓解KV cache thrashing,在合成数据生成流水线中实现最高2.5倍单节点吞吐提升。据官方介绍,在单台8×H100节点、batch size 192下,SGLang吞吐降至390 token/s、平均延迟65s,ThunderAgent达到803 token/s、平均延迟10.6s;8节点集群上相对SGLang Gateway加速2.39倍,从16到64 GPU吞吐近线性扩展。该工作已被ICML 2026接收为Spotlight论文,代码开源,客户端只需增加一个program_id字段,并已被SkyRL和NVIDIA Dynamo采用。目前尚无后续发展事实。

StepFun回应黄仁勋开源模型公开信

2026年7月24日,StepFun(阶跃星辰)就黄仁勋关于开源模型的公开信作出回应。7月25日,阶跃星辰发布表态,称开源模型正成为AI创新的关键驱动力,很高兴看到NVIDIA公开支持这一愿景,并期待下一代AI构建者创造出什么。7月28日,Andrew Ng(吴恩达)评价称,Nvidia的公开信写得好、值得一读,并提到开放模型和工具是防御所需,认为闭源模型更安全的说法只是监管俘获。目前该话题已获得来自模型厂商与业界人士的公开回应与评价。

xAI发布Grok 4.5,主打编码与智能体任务

2026年7月16日,xAI发布Grok 4.5模型,称其为最强模型,专为编码、智能体任务和知识工作打造,并与Cursor联合训练。据xAI News报道,该模型在Datacurve的DeepSWE基准上得分62.0%,高于Opus 4.8的55.75%,低于Fable的66.1%和GPT 5.5的64.31%。模型在数万块NVIDIA GB300 GPU上训练,推理速度80 TPS,定价为每百万输入token 2美元、每百万输出token 6美元,并已成为Grok Build的默认模型。目前尚无后续发展事实。

llama.cpp新增DFlash投机解码支持

llama.cpp 近期在其投机解码方案中新增了 DFlash 支持。此前该项目已集成 MTP、Eagle3 以及多种基于 ngram 的技术,此次新增进一步扩充了其投机解码武器库,据称使本地模型性能再上一个台阶。相关工作由 NVIDIA 团队主导,其中 Ruixiang Wang 为主要推动者,项目方对此表示感谢。目前该支持已随 llama.cpp 更新落地。

Prime Intellect完成1.3亿美元A轮融资

2026年7月8日,Prime Intellect宣布完成1.3亿美元A轮融资,由Radical Ventures领投,NVIDIA Ventures、Intel Capital、Dell Technologies Capital及现有投资方参投,累计融资超过1.5亿美元。公司称其开源超级智能栈覆盖计算、大规模强化学习、环境、沙箱、评测与部署,客户超过6000家,年化收入已超过1亿美元。文中还提到,Ramp使用其后训练栈训练的35B模型在表格搜索任务上超过Opus,速度比Haiku快27%且成本更低。

Air Street更新AI算力指数

2026年7月1日,Air Street Press与Zeta Alpha更新了State of AI Report Compute Index至第六版。该指数显示,2026年预计统计到49,339次芯片引用,其中NVIDIA占44,715次,约91%。已追踪的Hopper部署量达460,904块GPU,而Grace-Blackwell项目仍以安装和宣布阶段为主。已披露合约中,OpenAI的26 GW算力包含16 GW非NVIDIA方案,反映前沿实验室正在组合多家芯片供应商。

Cohere发布并开源Command A+企业级智能体模型

2026年5月20日,Cohere发布并开源Command A+混合专家模型。据Cohere产品与研究博客,该模型面向企业智能体任务、支持私有部署,采用Apache 2.0许可证,提供218B总参数和25B激活参数,支持48种语言,并提供BF16、FP8和W4A4量化版本,最低可在两块NVIDIA H100或一块NVIDIA Blackwell GPU上运行。模型权重已上线Hugging Face,也可通过Model Vault、Cohere Space或API使用。目前没有后续有证据的发展。

蚂蚁百灵正式开源Ling-3.0-tiny

2026年8月11日,蚂蚁百灵正式开源 Ling-3.0-tiny。据官方介绍,这是一款原生混合推理模型,总参数 7.9B,推理时仅激活 1.3B 参数,同步提供 BF16、FP8 和 INT4 三个版本。官方称其在 Artificial Analysis Intelligence Index 获 25 分,Agentic Index 达 16 分,输出速度超过 160 tokens/s。部署方面,模型可在单台 NVIDIA DGX Spark 上完成 FP8 推理,权重约 7.85GB,并已完成 Apple Silicon 的 MacBook 与 Mac mini 本地运行适配。目前该模型已进入开源发布状态,暂无后续进展。

百灵正式开源Ling-3.0-flash模型

2026年8月7日,蚂蚁百灵正式开源新一代原生混合推理模型Ling-3.0-flash。据蚂蚁百灵开发者博客介绍,该模型采用124B总参数、5.1B激活参数的MoE架构,同步提供基础版本及FP8、FP4、INT4等多个精度版本。落地方式包括三种:云端API调用;在单台NVIDIA DGX Spark上以MXFP4或INT4版本完成端到端本地推理;以及在指定GPU测试配置下平均输出速率突破1100 tokens/s的高性能部署。榜单数据方面,其在Artificial Analysis中输出速度为353 tokens/s,在AA Intelligence Index中每项任务加权平均调用成本约0.04美元。目前尚无后续发展事实。

黄仁勋分享开放模型倡议信

Jensen Huang 分享 NVIDIA签署的开放模型倡议信

查看事件：黄仁勋支持开放模型发展

微软分享GitHub Copilot与Excel专用MAI模型

2026年7月24日,微软AI公布面向智能体工作负载的MAI模型在GitHub Copilot和Excel中的部署情况。据微软AI Blog介绍,MAI-Code-1-Flash自6月在GitHub Copilot上线以来已有数百万开发者使用,在VS Code中代码接受率比GPT 5.4 Mini和Claude Haiku 4.5高约10%,中位token用量低10%。在Excel中,基于该checkpoint继续强化学习得到的模型在常见任务上质量与GPT-5.6相当,且可运行在Nvidia H100和A100上,降低部署成本。微软表示正将这一方法扩展到Copilot Chat、Outlook、PowerPoint等产品。目前尚无后续独立发展事实。

LMSYS 在 Miles 中实现 On-Policy Distillation

2026年7月18日,LMSYS 在 Miles 中实现了 On-Policy Distillation(OPD),支持纯蒸馏与结合 GRPO/PPO 的 RL 增强蒸馏两种模式,并新增稀疏学生到教师打分流程以避免稠密 logprob 负载。据 LMSYS Blog 同日发布的信息,团队在单台 8×NVIDIA B200 节点上用 Qwen3.5-35B-A3B 做自蒸馏实验:教师经 RLVR 训练后推理更短,学生为 RL 前基座,任务奖励设为零,仅用 top-1 学生-教师 reverse-KL 训练。结果显示,OPD 能在不损失性能的前提下将教师的短推理行为迁移给学生。目前尚无后续发展事实。

Sakana AI 伊藤錬就任联合国AI for Good全球委员会委员

2026年7月3日,Sakana AI 联合创始人伊藤錬(Ren Ito)就任联合国「AI for Good」全球委员会创始委员。据 Sakana AI 官方博客介绍,该委员会由约40名政府、产业界与国际组织领袖组成,Salesforce 董事长马克·贝尼奥夫担任联合主席,成员还包括 NVIDIA CEO 黄仁勋、Pfizer 董事长阿尔伯特·布尔拉和 Reliance Industries 董事长穆克什·安巴尼。委员会创会会议定于7月8日在日内瓦举行,聚焦 AI 可信性、治理与社会落地。目前尚无进一步有证据支持的发展。

Epoch AI分析1600余份中国AI招聘信息

2026年6月24日,Epoch AI发布分析,梳理了DeepSeek、MiniMax、Moonshot、Z.ai、字节跳动和阿里巴巴六家中国AI公司的1604份招聘启事。分析发现,这些公司仍依赖Nvidia CUDA与TensorRT-LLM,同时探索昇腾、寒武纪等国产芯片。其中,Z.ai称其GLM-Image已在国产芯片上完成端到端训练,该模型有160亿参数。MiniMax、DeepSeek、Moonshot等初创公司还在自建数据中心,并采用公有云与自建算力混合部署。目前尚无后续发展。