AI Trends

Nvidia Plans to Acquire Diffusion Language Model Startup Inception for More Than $500 Million

ZhidxUpdated Nov 23 01:34

English text is being prepared.

AI summary

According to The Information, citing people familiar with the matter, Nvidia is in advanced talks to acquire Inception for more than $500 million. Upon completion of the deal, its three co-founders will join Nvidia full-time. Inception primarily develops the Mercury family of diffusion language models, and its technology and talent are expected to bolster Nvidia’s Nemotron model team. Neither Nvidia nor Inception had responded as of publication.

Why read this

AI score 61

The deal details reveal Nvidia’s approach to strengthening its Nemotron team and reflect the growing concentration of diffusion language model talent and technology at major tech companies.

Topics

Tags

Body

智东西11月20日消息,今天,据The Information援引知情人士消息,英伟达正就收购美国大模型创企Inception进行深入谈判,拟议收购价超5亿美元(约合人民币33.57亿元)。

知情人士透露,英伟达这笔最新收购旨在补强其Nemotron系列模型团队,Inception三位联合创始人、知名机器学习领域教授斯特凡诺·埃尔蒙(Stefano Ermon)、阿迪蒂亚·格罗弗(Aditya Grover)和沃洛迪米尔·库列绍夫(Volodymyr Kuleshov)将在收购完成后全职加入英伟达。被收购后,Inception是否仍独立运营、其余员工何去何从未披露。

此外,英伟达还会根据业务目标的完成情况,向新加入的Inception员工发放对赌奖励。

Inception成立于2024年,总部位于美国旧金山湾区,拥有30多名员工。该公司主要研发扩散语言模型,代表产品为Mercury系列。其早期产品Mercury Coder主要用于代码生成,随后陆续推出推理模型Mercury 2和Mercury 2.5。Inception最新模型Mercury 3于今年10月19日发布,最高支持100万Token上下文。

Mercury系列模型通过并行生成提高文本输出速度,主流自回归语言模型按照从左到右的顺序逐个生成Token,Mercury则可以并行生成多个Token,再反复修正内容。

以Mercury 3为例,据Inception公布的对比数据,该模型在英伟达GPU上的输出速度为每秒1068 Token,GPT-6 Luna和Claude Haiku 5.5分别约为每秒130 Token和240 Token。三款模型均使用Medium档位,Mercury 3的输出速度分别约为两者的8.2倍和4.5倍。

据Inception公布的评测,三款模型均使用Medium档位,Mercury 3在生成速度更快的同时,在12项能力测试中的8项超过GPT-6 Luna和Claude Haiku 5.5。在考察研究生级科学问题的GPQA Diamond测试中,Mercury 3得分89.23,高于两款对照模型的86.36和84.51。在指令遵循测试IFBench中,Mercury 3得分76.84,高于两款对照模型的61.82和54.65;在智能体搜索测试DeepSearchQA中,其得分71.33,高于两款对照模型的60.00和65.22。

▲Inception公布的测试结果及模型对比(图源:Inception)

此前,美国AI编程工具公司Augment Code采用Mercury 2压缩长编程会话中的上下文,保留已作出的决策、涉及的文件和待解决的问题,便于智能体继续工作。据推理服务平台Baseten援引知情人士透露,这一环节的延迟由约150秒降至27秒,降低82%,成本降低90%。

据The Information报道,若此次交易完成,Inception联合创始人埃尔蒙、格罗弗和库列绍夫将全职加入英伟达。

据三人斯坦福官方主页,三人在斯坦福期间即为师生,后均成为机器学习领域知名教授。埃尔蒙为格罗弗博士导师,也曾指导库列绍夫从事博士后研究。在创业前,三人已有近十年的合作经历。

Inception联合创始人兼CEO埃尔蒙今年42岁,2015年毕业于康奈尔大学,现任斯坦福大学计算机科学副教授,研究机器学习与生成式AI。

2021年,他以第三作者身份在深度学习顶会ICLR发表论文《去噪扩散隐式模型(Denoising Diffusion Implicit Models,DDIM)》。该研究让扩散模型无需重新训练,就能用更少的去噪步骤生成图像。论文实验显示,相比此前的DDPM(去噪扩散概率模型)方法,DDIM生成高质量图像的速度可达其10至50倍。

其联合创始人兼CTO格罗弗今年32岁,2020年博士毕业于斯坦福大学,现任加州大学洛杉矶分校(UCLA)计算机科学助理教授。他曾在加州大学伯克利分校从事博士后研究,并曾担任Meta FAIR研究科学家。

2016年,他以第一作者身份在数据挖掘顶会KDD发表论文《node2vec:面向网络的可扩展特征学习(node2vec: Scalable Feature Learning for Networks)》。该论文提出从网络连接关系中学习节点特征的方法,可用于电影推荐、社交关系推荐等场景。

其联合创始人兼首席科学家库列绍夫2017年博士毕业于斯坦福大学,现任康奈尔大学及Cornell Tech计算机科学助理教授。

2024年,他与合作者在机器学习顶会NeurIPS发表论文《简单而有效的掩码扩散语言模型(Simple and Effective Masked Diffusion Language Models)》。该研究改进了扩散语言模型的训练方法,缩小了其与自回归模型在语言建模测试中的表现差距。

▲Inception三位联合创始人,从左至右分别为格罗弗、库列绍夫、埃尔蒙(图源:Inception)

据悉,该笔收购始于英伟达前CEO黄仁勋离任前。尽管英伟达正面临“换帅”风波,但其围绕AI创企的交易、以及开发自有大模型以抗衡Anthropic的行动仍在推进。

此前,英伟达、微软都曾通过旗下机构投资Inception。2025年11月6日,Inception披露获得5000万美元(约合人民币3.36亿元)种子轮融资,由Menlo Ventures领投,英伟达旗下NVentures、微软旗下M12等参投。据The Information援引知情人士称,微软在英伟达启动收购谈判前,也曾对Inception表达收购兴趣。但截至该报道今日发布,英伟达和Inception均未对此回应。

如前所述,此次收购完成后,Inception的扩散语言模型技术及研究人才将支撑英伟达开源模型项目Nemotron的研发。该项目的目标为帮助英伟达打造用于构建和部署未来AI的系统,为开源AI社区做出贡献。

英伟达今年5月19日开源了“三模式”扩散语言模型Nemotron-Labs-Diffusion,该模型通过切换注意力机制,在单一模型中统一自回归、扩散并行解码与自推测解码,提升解码吞吐量。

据悉,英伟达已向Nemotron项目投入数百亿美元,其中数十亿美元用于通过收购或类似交易引入技术和AI研究人员。目前,Nemotron研发团队已有数百名员工。

大厂正在通过收购公司、引入核心团队及获得技术授权等方式,补充AI研发所需的人才与技术。2024年3月,微软引入美国大模型企业Inflection AI两位联合创始人及部分团队成员,组建Microsoft AI;2024年6月,亚马逊引入美国AI智能体企业Adept联合创始人及部分员工,并获得其模型和智能体技术授权。通过这类交易,大厂能够引入已有合作基础的团队,将其研究积累用于自身产品开发。

大厂获得成熟团队,研究人员获得继续开发所需的资金和算力,部分原本独立推进的模型研发也随之进入大厂体系。若此次收购Inception的交易完成,英伟达将进一步补充自研模型团队,此次交易也将推动扩散语言模型领域的研究人才与技术向大厂集中。

来源:The Information、Inception、英伟达

Source

Zhidx