AI 붐으로 컴퓨팅 용량이 압박을 받는 가운데, Nvidia는 인도 스타트업 Simplismart 에 1,400만 달러 규모의 투자 라운드로 참여하여, 기업들이 AI 모델을 더 효율적으로, 어떤 경우에는 더 적은 GPU로 운영하도록 돕는 소프트웨어에 베팅했다.
Nvidia는 Dallas Venture Capital이 투자를 주도한 이 순수 신주 방식의 시리즈 B 라운드에 Accel, Shastra VC, Micromax와 함께 참여했다. 이번 딜은 신규 자금을 포함해 설립 4년 차인 이 스타트업의 가치를 약 1억 달러로 평가했다.
기업들은 요즘 AI 애플리케이션을 구동하기 위해 GPU에 막대한 비용을 지출하고 있지만, 그 모델들을 규모 있게 안정적이고 경제적으로 운영하는 것은 여전히 어려운 과제다. 서로 다른 워크로드는 속도, 비용, 성능 간에 서로 다른 트레이드오프를 요구한다. 비즈니스 요구사항을 충족하도록 AI 모델을 배포하고 운영하는 것은 종종 복잡한 조정을 필요로 한다. Simplismart는 자사 소프트웨어가 그 작업의 상당 부분을 자동화하여, 고객이 그러한 구성을 직접 관리할 필요 없이 기존 컴퓨팅 인프라에서 모델이 실행되는 방식을 맞춤화한다고 밝혔다.
"아무도 실제로 가장 빠르거나 가장 저렴한 인퍼런스를 필요로 하지 않습니다."라고 Simplismart의 공동창업자이자 CEO인 Amritanshu Jain(위 사진 왼쪽)이 인터뷰에서 말했다. 그는 기업들이 대신 자신들의 특정 애플리케이션에 맞는 속도와 비용으로 AI 모델을 운영할 필요가 있다고 덧붙였다.
Simplismart의 소프트웨어는 AI 모델과 그 모델이 실행되는 컴퓨팅 인프라 사이에서 작동하며, 고객의 요구사항을 충족하도록 모델이 배포되고 관리되는 방식을 조정한다. 이 회사는 모델의 응답 속도, 처리하는 요청 수, 소비하는 컴퓨팅 파워와 같은 요소들을 최적화하여 기업들이 기존 GPU 스택을 더 많이 활용하도록 돕는다고 말했다.
방갈로르에 기반을 둔 이 스타트업은 자사 플랫폼을 통해서나 기존 클라우드 및 온프레미스 인프라 내에서 AI 모델을 배포하고 실행할 수 있는 방법을 기업들에 제공한다. 또한 모델을 파인튜닝하고, 수요 변화에 따라 컴퓨팅 자원을 자동으로 확장하며, 성능을 모니터링하는 도구도 제공한다. 아울러 Simplismart는 클라우드 제공업체들이 자사 소프트웨어를 사용해 GPU 인프라 위에서 자체 AI 인퍼런스 서비스를 구축하고 운영할 수 있게 한다.
Simplismart는 자사 소프트웨어를 사용해 AI 영상 생성 플랫폼 InVideo가 GPU 서빙 비용을 56% 절감하도록 도왔다고 밝혔다. 이 스타트업은 AI 영상 기업 HeyGen과 Higgsfield, 그리고 엔터프라이즈 AI 스타트업 Ema 등과도 협력하고 있다. 또한 인도 클라우드 제공업체 Yotta는 Shakti Studio 플랫폼 내 서버리스 AI 인퍼런스 서비스를 구동하는 데 Simplismart의 기술을 사용하고 있다.
Simplismart의 연율화 매출 런레이트는 지난 6개월 동안 14배 성장해 8자리 수에 달했다고 Jain이 TechCrunch에 말했다. 이 수치는 계약된 반복 매출이 아닌 최근 고객 사용량을 기반으로 하며, 인프라 제공업체에 전달되는 매출은 제외된다고 회사는 밝혔다. 그는 정확한 수치는 공개하지 않았다.
Simplismart의 매출 절반 이상이 미국에서 발생하지만, 이 스타트업은 인도에 더 많은 고객을 보유하고 있다고 Jain이 말했다.
투자와 더불어 Nvidia는 Dynamo 인퍼런스 소프트웨어를 포함한 기술적 통합 작업에서 Simplismart와 협력해 왔다고 Jain이 TechCrunch에 말했다. 이 협력에는 Simplismart의 엔지니어들과 Nvidia의 솔루션 아키텍트들이 참여하고 있으며, Nvidia는 또한 이 스타트업을 잠재 고객 및 파트너에게 소개하는 데도 도움을 주었다고 Jain이 말했다.
흥미롭게도 이번 투자는 AI 칩의 지배적 공급자인 Nvidia가 일부 워크로드를 더 적은 GPU로 운영할 수 있게 도와주는 소프트웨어에 투자한다는 명백한 역설을 보여준다. 그러나 Jain은 AI 인퍼런스를 더 효율적으로 만드는 것이 결국 자사 하드웨어를 고객에게 더 매력적으로 만들고 AI 애플리케이션의 더 폭넓은 채택을 장려함으로써 Nvidia에 이익이 될 수 있다고 주장했다.
Simplismart는 점점 더 혼잡해지는 AI 인퍼런스 소프트웨어 시장에서 고객을 서비스하고 있으며, Nvidia 자체의 제품과 Amazon Web Services, Google Cloud, Microsoft Azure를 포함한 주요 클라우드 제공업체 및 하이퍼스케일러들의 제품과 경쟁하고 있다. AI 애플리케이션에 대한 수요 증가와 비싼 GPU 자원을 더 잘 활용해야 할 필요성에 힘입어 이 분야에서 성장하는 수요가 있음에 따라, AI 모델을 더 빠르고 저렴하게 실행할 수 있는 도구를 개발하는 스타트업도 늘어나고 있다.
"우리가 승리하는 경향이 있는 곳은 사람들이 SLA[서비스 수준 계약]와 TCO[총 소유 비용]에 더 엄격해야 하는 곳입니다."라고 Jain이 말했다. 이는 까다로운 성능 요구사항과 타이트한 비용 제약을 말하는 것이다. 더 빠르거나 더 저렴한 인퍼런스를 위한 사전 설정 옵션을 제공하는 경쟁사들과 달리, Simplismart는 각 고객의 필요에 맞춘 균형을 찾는 것을 목표로 한다고 그는 말했다.
전직 Oracle 엔지니어인 Jain과 전직 Google 엔지니어인 Devansh Ghatak(위 사진 오른쪽)이 2022년에 설립한 Simplismart는 머신러닝 시스템을 구축하고 배포했던 두 사람의 경험에서 성장했다. 두 사람은 BITS Pilani에서 공부하면서 만났으며, 이 스타트업은 현재 58명의 직원을 두고 있다고 Jain이 말했다.
Simplismart는 새로운 자금을 사용해 미국 내 입지를 확장하고, 팀을 성장시키며, 인퍼런스 소프트웨어 개발에 더 투자할 계획이다. Jain은 TechCrunch에 미국이 기존 고객 기반을 토대로 성장하려는 이 스타트업에게 여전히 핵심 시장이라고 말했다.
이번 투자 유치 발표는 보도 에 이어진 것으로, 인도 영어 일간지 The Economic Times는 Simplismart가 기업가치 3억 달러에서 4억 달러 규모로 4,000만 달러에서 5,000만 달러를 조달하기 위한 협상을 진행 중이라고 보도했습니다. 해당 보도에 대해 질문을 받은 Jain은 스타트업이 적극적으로 자금을 조달 중이 아니라며 논평을 거부했습니다. 그는 또한 시리즈 B 라운드는 종결되었으며 연장되지 않을 것이라고 덧붙였습니다.