Da der KI-Boom die Rechenkapazität belastet, hat Nvidia in das indische Startup investiert Simplismart in einer Finanzierungsrunde in Höhe von 14 Millionen Dollar und setzt auf Software, die Unternehmen hilft, KI-Modelle effizienter und in einigen Fällen mit weniger GPUs zu betreiben.
Nvidia beteiligte sich an der vollständig primären Series-B-Runde gemeinsam mit Accel, Shastra VC und Micromax, wobei Dallas Venture Capital die Investition anführte. Der Deal bewertet das vier Jahre alte Startup mit etwa 100 Millionen Dollar, einschließlich der neuen Finanzierung.
Unternehmen geben heutzutage große Summen für GPUs aus, um KI-Anwendungen zu betreiben, doch diese Modelle zuverlässig und wirtschaftlich im großen Maßstab zu betreiben bleibt eine Herausforderung. Verschiedene Workloads erfordern unterschiedliche Abwägungen zwischen Geschwindigkeit, Kosten und Leistung. Die Bereitstellung und der Betrieb von KI-Modellen zur Erfüllung geschäftlicher Anforderungen erfordern oft auch komplexe Anpassungen. Simplismart sagt, seine Software automatisiere einen Großteil dieser Arbeit, indem sie darauf abstimmt, wie Modelle auf der bestehenden Recheninfrastruktur laufen, anstatt dass Kunden diese Konfigurationen selbst verwalten müssen.
„Niemand braucht tatsächlich die schnellste oder billigste Inferenz“, sagte Amritanshu Jain (im Bild oben links), Mitgründer und CEO von Simplismart, in einem Interview. Er fügte hinzu, dass Unternehmen stattdessen KI-Modelle mit Geschwindigkeiten und Kosten betreiben müssten, die für ihre spezifischen Anwendungen sinnvoll sind.
Simplismarts Software sitzt zwischen den KI-Modellen und der Recheninfrastruktur, auf der sie laufen, und passt an, wie Modelle bereitgestellt und verwaltet werden, um die Anforderungen der Kunden zu erfüllen. Das Unternehmen sagt, es könne Faktoren wie die Antwortgeschwindigkeit eines Modells, die Anzahl der verarbeiteten Anfragen und den Verbrauch an Rechenleistung optimieren und Unternehmen damit helfen, mehr aus ihrem bestehenden GPU-Bestand herauszuholen.
Das in Bengaluru ansässige Startup bietet Unternehmen die Möglichkeit, KI-Modelle über seine eigene Plattform oder innerhalb ihrer bestehenden Cloud- und On-Premises-Infrastruktur bereitzustellen und zu betreiben. Es stellt außerdem Werkzeuge bereit, um Modelle zu fine-tunen, Rechenressourcen bei sich ändernder Nachfrage automatisch zu skalieren und die Leistung zu überwachen. Darüber hinaus ermöglicht Simplismart Cloud-Anbietern, ihre eigenen KI-Inferenzdienste auf GPU-Infrastruktur mit seiner Software aufzubauen und zu betreiben.
Simplismart sagt, es habe der KI-Videogenerierungsplattform InVideo geholfen, ihre GPU-Serving-Kosten mit seiner Software um 56% zu senken. Das Startup arbeitet auch mit den KI-Videounternehmen HeyGen und Higgsfield sowie dem Enterprise-KI-Startup Ema zusammen, unter anderem. Zudem nutzt der indische Cloud-Anbieter Yotta Simplismarts Technologie, um den serverlosen KI-Inferenzdienst innerhalb seiner Shakti-Studio-Plattform zu betreiben.
Simplismarts annualisierte Umsatz-Run-Rate ist in den vergangenen sechs Monaten um das 14-Fache auf eine achtstellige Summe gewachsen, sagte Jain gegenüber TechCrunch. Die Zahl basiere auf der aktuellen Kundennutzung und nicht auf vertraglich vereinbarten wiederkehrenden Umsätzen und schließe Umsätze aus, die an Infrastrukturanbieter weitergegeben werden, teilte das Unternehmen mit. Die genaue Zahl nannte er nicht.
Mehr als die Hälfte von Simplismarts Umsatz stammt aus den USA, obwohl das Startup mehr Kunden in Indien hat, sagte Jain.
Neben seiner Investition arbeitet Nvidia technisch mit Simplismart an Integrationen zusammen, unter anderem im Zusammenhang mit seiner Dynamo-Inferenzsoftware, sagte Jain gegenüber TechCrunch. Die Zusammenarbeit umfasst Simplismarts Ingenieure und Nvidias Lösungsarchitekten, und Nvidia habe dem Startup auch bei der Vorstellung bei potenziellen Kunden und Partnern geholfen, so Jain.
Interessanterweise birgt die Investition ein offensichtliches Paradox, da Nvidia, der dominierende Anbieter von KI-Chips, in Software investiert, die Unternehmen helfen kann, einige Workloads mit weniger GPUs zu betreiben. Jain argumentierte jedoch, dass eine effizientere KI-Inferenz letztlich Nvidia nützen könnte, indem sie seine Hardware für Kunden attraktiver macht und die breitere Einführung von KI-Anwendungen fördert.
Simplismart bedient Kunden in einem zunehmend überfüllten Markt für KI-Inferenzsoftware und konkurriert mit Angeboten von Nvidia selbst sowie großen Cloud-Anbietern und Hyperscalern, darunter Amazon Web Services, Google Cloud und Microsoft Azure. Eine wachsende Zahl von Startups entwickelt ebenfalls Werkzeuge, um KI-Modelle schneller und günstiger laufen zu lassen, da die Nachfrage in diesem Segment steigt, getrieben durch die zunehmende Nachfrage nach KI-Anwendungen und die Notwendigkeit, teure GPU-Ressourcen besser zu nutzen.
„Wo wir tendenziell gewinnen, ist dort, wo die Menschen strenger bei ihren SLAs [Service-Level-Agreements] und TCO [Total Cost of Ownership] sein müssen“, sagte Jain mit Blick auf anspruchsvolle Leistungsanforderungen und enge Kostenbeschränkungen. Anders als Wettbewerber, die voreingestellte Optionen für schnellere oder billigere Inferenz anbieten, strebe Simplismart danach, eine auf die Bedürfnisse jedes einzelnen Kunden zugeschnittene Balance zu finden, sagte er.
Simplismart wurde 2022 vom ehemaligen Oracle-Ingenieur Jain und dem ehemaligen Google-Ingenieur Devansh Ghatak (im Bild oben rechts) gegründet und entstand aus der Erfahrung der beiden beim Aufbau und der Bereitstellung von Machine-Learning-Systemen. Die beiden lernten sich während ihres Studiums am BITS Pilani kennen, und das Startup beschäftigt heute 58 Mitarbeiter, sagte Jain.
Simplismart plant, die neuen Mittel zu nutzen, um seine Präsenz in den USA auszubauen, das Team zu vergrößern und weiter in die Entwicklung seiner Inferenzsoftware zu investieren. Jain sagte gegenüber TechCrunch, dass die USA ein Schlüsselmarkt für das Startup bleiben, während es darauf hinarbeitet, seine bestehende Kundenbasis dort auszubauen.
Die Finanzierungsankündigung folgt auf einen Bericht der indischen englischsprachigen Tageszeitung The Economic Times, wonach Simplismart in Verhandlungen stand, 40 Millionen bis 50 Millionen Dollar bei einer Bewertung von 300 Millionen bis 400 Millionen Dollar aufzunehmen. Auf den Bericht angesprochen, lehnte Jain eine Stellungnahme ab und sagte, das Startup sammle derzeit nicht aktiv Kapital ein. Er fügte hinzu, dass die Series-B-Runde abgeschlossen sei und nicht erweitert werden würde.