←新闻详情

SiliconANGLE更新于 11月4日 11:26

AI 云初创公司 Applied Compute 融资 3.5 亿美元,估值 32.5 亿美元

AI cloud startup Applied Compute raises $350M after reaching key revenue milestone - SiliconANGLE

AI 导读

AI 基础设施提供商 Applied Compute 完成 3.5 亿美元融资,估值 32.5 亿美元,由 Elad Gil 领投,Nvidia、Shopify Ventures、HubSpot Ventures 等参投。公司年化经常性收入已超过 100 亿美元?不,超过 1 亿美元,客户包括 Microsoft、DoorDash 等,成立不足 18 个月。其平台采用异步强化学习和自蒸馏加速 LLM 训练,并提供自动扩缩容推理与 Shift-1 模型路由。

推荐理由

AI 评分 55

融资消息同时披露了异步强化学习、自蒸馏和模型路由等技术细节,可据此了解 AI 训练云平台当前的产品形态。

主题

标签

正文 · AI 翻译

快速成长的人工智能基础设施提供商Applied Compute Inc.以32.5亿美元估值完成了3.5亿美元融资。

这家初创公司于周一宣布了该交易。知名天使投资人Elad Gil领投本轮融资,Nvidia Corp.、Shopify Ventures、HubSpot Ventures等十余家机构参投。

Applied Compute运营着一个云平台,开发者用它来训练大语言模型并执行推理,即运行模型以对查询作出响应的过程。此外,它还拥有一支机器学习研究员团队,可以为客户的项目提供协助。该团队承担的任务包括为新开发的模型创建质量评估。

AI研究员用于训练LLM的软件栈通常由两个主要组件构成。一个组件创建模型的多个副本,为每个副本分配不同的任务,并将结果转化为训练数据。另一个组件则利用这些训练数据来优化LLM的权重。这两个组件通常同步运行,这意味着每个组件都必须等待另一个组件完成工作后才能启动。

Applied Compute的平台采用了一种更高效的训练方法,称为异步强化学习。它使训练栈的数据生成组件和权重调整组件能够同时运行,从而加速LLM的开发。此外,该平台还支持第二种优化方法,称为自蒸馏。它无需教师模型,即研究人员用于监督LLM训练过程的专用神经网络。

内置的AI助手可自动完成客户工作中重复性的环节。例如,它可以总结LLM在一次训练运行中学到了哪些新技能。要发现这类信息,研究人员通常需要查阅冗长的推理日志。

Applied Computing的平台同样适用于运行推理工作负载。一个自动扩缩容引擎会根据用户流量自动调整分配给模型的硬件数量。一项所谓的在线强化学习功能利用LLM接收到的提示词定期微调其权重,从而使其与客户需求保持一致。

该公司在提供训练和推理功能的同时,还提供一款名为Shift-1的模型路由器。它使编码智能体能够将每个用户请求发送给能以最具成本效益的方式完成该请求的LLM。此外,它还能将复杂任务拆分给多个LLM。

Applied Computing在其融资公告中披露,其年化经常性收入已超过1亿美元。这家成立不到18个月的公司已将Microsoft Corp.、DoorDash Inc.等大型科技公司列为客户。它将利用新筹集的资金扩大市场影响力并购买更多基础设施。

“训练、推理和路由只是更大技术栈中的最初几部分,”Applied Compute创始人Rhythm Garg、Yash Patil和Linden Li在一篇博客文章中写道。“我们正在构建每家公司都需要的AI基础设施,以便完全掌控自身的智能,从模型本身到运行、监控和保护这些模型的系统。”

图片:Applied Compute

来源

SiliconANGLE