班加罗尔 AI 推理基础设施初创公司 Simplismart 获 NVIDIA 参投的 1400 万美元融资
Bengaluru AI Startup Simplismart Raises $14 Mn in NVIDIA-Backed Round
班加罗尔 AI 推理基础设施初创公司 Simplismart 完成 1400 万美元 B 轮融资,由 Dallas Venture Capital 领投,NVIDIA、Accel、Shastra VC 和 Micromax 参投。公司称过去六个月年化营收运行率增长 14 倍,客户包括 HeyGen、Higgsfield、InVideo、Shiprocket、Apna 和 Ema。资金将用于开发 AI 推理平台、拓展云厂商与主权 AI 合作,并进军北美等全球市场。
正文 · AI 翻译
总部位于班加罗尔的 AI 推理基础设施初创公司 Simplismart 在由 Dallas Venture Capital 领投的 B 轮融资中筹集了 1400 万美元,NVIDIA、Accel、Shastra VC 和 Micromax 参投。
该公司将利用这笔资金开发其 AI 推理平台,扩大与云服务提供商和主权 AI 参与者的合作,并拓展其在北美和其他全球市场的业务。
Simplismart 表示,其年化营收运行率在过去六个月增长了 14 倍。其客户包括 HeyGen、Higgsfield、InVideo、Shiprocket、Apna 和 Ema,这些客户使用其平台在视频、语音、多模态和企业 AI 应用中运行生产工作负载。
Simplismart 构建的软件位于 AI 模型和 GPU 基础设施之间,帮助企业优化运行 AI 应用的成本、速度和性能。其平台还允许云服务提供商利用其现有的 GPU 基础设施提供托管 AI 服务。
“随着前沿级开源模型如今已唾手可得,仅凭获取模型已不足以让企业脱颖而出。优势来自你如何运行它们:每次交互的成本是多少、应用响应有多快,以及随着需求增长它是否保持可靠,”Simplismart 联合创始人兼 CEO Amritanshu Jain 表示。
此轮融资之际,企业正寻求控制生产环境中运行 AI 应用的成本,尤其是因为开放权重模型为通过 API 访问的专有模型提供了替代方案。
Simplismart 让客户根据各个工作负载的需求配置推理框架、量化和缓存。
“在生产环境中运行 AI 模型远不止是选择一个模型和一块 GPU。围绕推理框架、量化和缓存的决策直接影响应用的响应速度以及运行成本,”Simplismart 联合创始人兼 CTO Devansh Ghatak 表示。
Simplismart 还向云服务提供商提供基础设施软件,使其能够以自有品牌提供 AI 推理服务,而无需开发底层软件栈。
Simplismart 与 NVIDIA 合作,帮助云服务提供商大规模部署和管理 AI 基础设施。与购买或预留 GPU 容量用于转售的推理提供商不同,Simplismart 并不拥有计算基础设施。相反,它提供软件层,使云服务提供商能够利用其现有的 GPU 基础设施提供 AI 推理服务。
该平台正被 Yotta Data Services 用于为 Shakti Studio 的无服务器推理层提供支持。该服务允许客户运行 AI 模型而无需管理底层推理基础设施。
Simplismart 表示,它还在开发一个动态 GPU 调度层,将 AI 工作负载与跨区域和时区的可用计算容量进行匹配。该系统旨在帮助云服务提供商提高 GPU 利用率。
“推理正成为 AI 经济中最大的变革因素之一,”Dallas Venture Capital 管理合伙人 Dayakar Puskoor 表示。他补充说,Simplismart 正在帮助企业更高效地运行 AI 工作负载,同时让云服务提供商能够将 GPU 容量转化为服务。
该公司的平台支持在 AWS、Microsoft Azure、Google Cloud、主权云和其他云服务提供商以及本地基础设施上部署。