Nvidia 投资印度初创公司 Simplismart,助企业用更少 GPU 运行 AI 模型
Nvidia backs Indian startup helping companies run AI models with fewer GPUs
Nvidia 参与印度初创公司 Simplismart 的 1400 万美元 B 轮融资,后者估值约 1 亿美元,其软件可自动优化模型部署,帮助企业在现有 GPU 上更高效地运行 AI 模型。Simplismart 称已帮 AI 视频平台 InVideo 将 GPU 服务成本降低 56%,客户还包括 HeyGen、Higgsfield 和 Ema。其年化收入运行率过去六个月增长 14 倍,超过一半收入来自美国。
正文 · AI 翻译
随着AI热潮使算力日益紧张,英伟达投资了印度初创公司Simplismart,参与其1400万美元融资轮,押注于能帮助企业更高效运行AI模型、并在某些情况下使用更少GPU的软件。
英伟达与Accel、Shastra VC和Micromax共同参与了这轮全为一级市场的B轮融资,由Dallas Venture Capital领投。此轮融资使这家成立四年的初创公司估值约为1亿美元(含新融资)。
如今,企业为运行AI应用在GPU上投入巨大,但大规模可靠且经济地运行这些模型仍是一项挑战。不同的工作负载需要在速度、成本和性能之间做出不同的权衡。为满足业务需求而部署和运营AI模型,往往还需要复杂的调整。Simplismart表示,其软件可自动完成其中大部分工作,针对现有计算基础设施定制模型的运行方式,而无需客户自行管理这些配置。
“其实没有人真正需要最快或最便宜的推理,”Simplismart联合创始人兼CEO Amritanshu Jain(上图左)在接受采访时表示。他补充说,企业真正需要的是以对其特定应用而言合理的速度和成本来运行AI模型。
Simplismart的软件位于AI模型与其运行所依赖的计算基础设施之间,并调整模型的部署和管理方式,以满足客户需求。该公司表示,它可以优化模型响应速度、处理请求数量以及消耗多少算力等因素,帮助企业更充分地利用现有GPU资源。
这家总部位于班加罗尔的初创公司为企业提供了一种方式,可通过其自有平台或在企业现有的云端和本地基础设施中部署和运行AI模型。它还提供用于微调模型、随需求变化自动扩展计算资源以及监控性能的工具。此外,Simplismart还允许云服务提供商利用其软件,在GPU基础设施上构建和运营自己的AI推理服务。
Simplismart表示,它利用其软件帮助AI视频生成平台InVideo将GPU服务成本降低了56%。这家初创公司还与AI视频公司HeyGen和Higgsfield,以及企业AI初创公司Ema等客户合作。此外,印度云服务提供商Yotta使用Simplismart的技术,为其Shakti Studio平台内的无服务器AI推理服务提供支持。
Jain告诉TechCrunch,Simplismart的年化收入运行率在过去六个月增长了14倍,达到八位数金额。该公司表示,这一数字基于近期客户使用情况,而非已签约的经常性收入,并且不包括转交给基础设施提供商的收入。他未披露具体数字。
Jain表示,尽管Simplismart在印度的客户更多,但其超过一半的收入来自美国。
Jain告诉TechCrunch,除了投资之外,Nvidia一直在与Simplismart开展技术集成合作,包括围绕其Dynamo推理软件的合作。Jain表示,这一合作涉及Simplismart的工程师和Nvidia的解决方案架构师,同时Nvidia还帮助这家初创公司对接潜在客户和合作伙伴。
有趣的是,这笔投资呈现出一种明显的悖论:作为AI芯片的主导供应商,Nvidia却在支持能够帮助企业以更少GPU运行部分工作负载的软件。然而,Jain认为,让AI推理更高效最终可能对Nvidia有利,因为这会让其硬件对客户更具吸引力,并推动AI应用更广泛地采用。
Simplismart正在一个日益拥挤的AI推理软件市场中服务客户,与Nvidia自身的产品以及包括Amazon Web Services、Google Cloud和Microsoft Azure在内的主要云服务提供商和超大规模厂商展开竞争。随着AI应用需求不断上升,以及更充分利用昂贵GPU资源的需要,这一领域的需求日益增长,越来越多的初创公司也在开发让AI模型运行更快、成本更低的工具。
“我们往往能在人们对SLA(服务级别协议)和TCO(总拥有成本)要求更严格的地方胜出,”Jain说,他指的是严苛的性能要求和紧张的成本约束。他表示,与那些提供更快或更便宜推理的预设选项的竞争对手不同,Simplismart旨在为每位客户的需求找到量身定制的平衡点。
Simplismart由前Oracle工程师Jain和前Google工程师Devansh Ghatak(见上图右)于2022年创立,源于两人在构建和部署机器学习系统方面的经验。两人在BITS Pilani求学期间相识,Jain表示,这家初创公司目前拥有58名员工。
Simplismart计划利用这笔新资金扩大其在美国的业务版图、壮大团队,并进一步投资开发其推理软件。Jain告诉TechCrunch,美国仍是这家初创公司的关键市场,它希望在此基础上拓展其在美国现有的客户群。
在融资消息公布之前,印度英文日报《经济时报》报道称,Simplismart正洽谈以3亿至4亿美元估值融资4000万至5000万美元。当被问及该报道时,Jain拒绝置评,称这家初创公司并未积极融资。他补充说,B轮融资已经完成,不会扩大规模。