随着人工智能发展对计算能力的压力增大,Nvidia 为印度初创企业 Simplismart 提供了 1400 万美元的融资,希望该软件能够帮助公司更高效地运行人工智能模型,在某些情况下甚至可以使用更少的 GPU。
Nvidia 与 Accel、Shastra VC 和 Micromax 一起参与了所有初轮 B 轮融资,由 Dallas Venture Capital 负责投资。该交易将这家成立四年的初创公司的估值提高至约 1 亿美元,其中包括新获得的资金。
如今,企业们在GPU上投入大量资金以支持人工智能应用,但要在大规模情况下可靠且经济地运行这些模型仍然是一个挑战。不同的工作负载对速度、成本和性能之间需要不同的权衡。为了满足业务需求而部署和运营人工智能模型通常还需要进行复杂的调整。 Simplismart 表示其软件可以自动化大部分工作,能够根据现有的计算基础设施来定制模型的运行方式,而无需客户自行管理这些配置。
“实际上,没有人需要最快速或最便宜的推理服务,”Simplismart的联合创始人兼首席执行官阿姆里坦舒·贾恩(上图左)在采访中说道。他还指出,企业应该以适合其特定应用的速度和成本来运行AI模型。
Simplismart 的软件处于人工智能模型与运行其上的计算基础设施之间,能够调整模型的部署和管理方式,以满足客户的需求。该软件可优化诸如模型响应速度、处理请求数量以及计算能力消耗等要素,帮助企业从现有的 GPU 架构中获得更多价值。
该班加罗尔成立的初创企业为公司提供了一种方式,使其能够通过自身平台或现有的云和本地基础设施来部署和运行人工智能模型。它还提供工具用于优化模型性能,根据需求变化自动调整计算资源规模,并监控系统表现。此外,Simplismart还允许云服务提供商利用其软件在 GPU 基础设施上构建和运营自己的人工智能推理服务。
Simplismart 表示,其软件帮助 AI 视频生成平台 InVideo 将 GPU 服务成本降低了 56%。该初创公司还与 HeyGen 和 Higgsfield 等 AI 视频公司,以及企业级 AI 初创公司 Ema 等合作。此外,印度云服务提供商 Yotta 也使用 Simplismart 的技术,在其 Shakti Studio 平台中提供无服务器 AI 推理服务。
Jain告诉TechCrunch,Simplismart的年度收入运行率在过去六个月里增长了14倍,达到了一个八位数的数字。该数字是基于最近的客户使用情况而非合同规定的经常性收入,并且不包括传递给基础设施提供商的收入。他没有透露具体的数字。
尽管 Simplismart 在印度有更多客户,但超过一半的收入来自美国,Jain 表示。
根据 Jain 对 TechCrunch 的陈述,除了投资之外,Nvidia 还与 Simplismart 合作进行技术整合工作,涉及其 Dynamo 推理软件等方面。该合作包括 Simplismart 的工程师和 Nvidia 的解决方案架构师参与,同时 Nvidia 还帮助这家初创企业向潜在客户和合作伙伴展示其产品。
有趣的是,这种投资似乎存在矛盾——作为人工智能芯片的主要供应商,Nvidia正在支持那些能够帮助企业使用更少的GPU来运行某些工作负载的软件。然而,Jain认为,提高人工智能推理的效率最终会让Nvidia的硬件对客户更具吸引力,从而促进人工智能应用的更广泛应用。
Simplismart 正在人工智能推理软件这一日益竞争激烈的市场中为客户提供服务,与 Nvidia 自身的产品以及 Amazon Web Services、Google Cloud 和 Microsoft Azure 等大型云服务提供商和超大规模云公司竞争。 越来越多的初创企业也在开发工具,以让人工智能模型运行得更快、成本更低。这一领域的需求不断增加,原因是对人工智能应用的需求上升,同时也需要更好地利用昂贵的 GPU 资源。
“我们倾向于在那些人们必须在 SLAs [服务级别协议] 和 TCO [总拥有成本] 方面更加严格的地方取得胜利,”Jain 说,他指的是严格的性能要求和严格的成本限制。他说,与提供更快或更便宜的推理预设选项的竞争对手不同,Simplismart 旨在找到符合每个客户需求的平衡方案。
2022年,前Oracle工程师Jain和前Google工程师Devansh Ghatak(上图右侧人物)共同创立了Simplismart。该公司源自这对搭档在构建和部署机器学习系统方面的经验。Jain表示,两人是在BITS Pilani学习时相识的,目前该初创公司雇用了58人。
Simplismart 计划利用新获得的资金,扩大其在美国的业务布局,扩充团队,并进一步投入研发推理软件。Jain 对 TechCrunch 表示,美国仍然是该初创公司的重要市场,公司希望在此地继续发展现有的客户基础。
融资公告紧随《印度经济时报》的一篇报道之后,该报道由《印度经济时报》发布,报道称 Simplismart 正在进行谈判,计划以 3 亿至 4 亿美元的估值筹集 4000 万至 5000 万美元的资金。当被问及该报道时,Jain 拒绝评论,称该初创公司并未积极进行融资活动。他还表示,B 轮融资已经完成,不会延长。