KI-Infrastrukturunternehmen Runware ist wieder in den Schlagzeilen, nur wenige Monate nach der Vorstellung des Sonic Inference Pod, einem modulare Rechenzentren in einer Fabrik gebaut und installationsfertig an Kunden verschickt werden. Nun hat das Unternehmen größere Pläne. Gegenüber TechCrunch erklärte es, es wolle eine Fabrik bauen, die diese Pods an einer Produktionslinie montiert, als wären es Autos.
Die Idee ist nicht völlig neu. Unternehmen wie Crusoe und Schneider Electric verkaufen ebenfalls vorgefertigte Pods, doch Runware sagt, es könne seine Pods schneller ausliefern.
Flaviu Radulescu, Mitgründer und CEO von Runware, sagte TechCrunch, das Unternehmen plane, die Produktion in seiner Fabrik in Rumänien bis 2028 auf 30 Megawatt Rechenzentrumskapazität pro Tag zu skalieren, also fast 1 Gigawatt pro Monat. Das ist eine ganze Menge Kapazität: Bei diesem Tempo würde Runware etwa so viel in einem Jahr produzieren, wie von den gesamten USA erwartet wurde, in diesem Jahr an Rechenzentrumsleistung hinzuzufügen, etwa 10 Gigawatt. Doch es spiegelt auch einen branchenweiten Vorstoß wider, Rechenzentren schneller und effizienter bereitzustellen.
Nvidia kündigte zum Beispiel die Vera Rubin AI factories und die DSX POD früher in diesem Jahr an. Beide sollen es Unternehmen ebenfalls ermöglichen, ihre eigenen KI-Rechenzentren schneller und einfacher zu bauen. Der Unterschied zu Runware besteht allerdings darin, dass das Unternehmen sagt, es habe tatsächlich eine Fabrik gebaut und nicht nur die Infrastruktur entworfen, die es anderen ermöglichen würde, eine zu bauen.
Radulescu sagte, Runware werde die Produktion ab dem nächsten Jahr schrittweise steigern und verfüge bereits über zwei Fabriken – eine, die seit einigen Jahren zum Bau der Pods genutzt wird, und eine zweite, mit deren Bau das Unternehmen früher in diesem Jahr begonnen hat. Die zweite soll in wenigen Monaten fertiggestellt und Anfang nächsten Jahres in Betrieb genommen werden.
Runware wird die modularen Rechenzentren an einer Montagelinie fertigen. Kunden können ein eigenes Grundstück für die Montage bereitstellen, oder Runware kann eines für sie finden. Radulescu sagte, Runware ziele darauf ab, die Pods innerhalb von 48 Stunden in Betrieb zu nehmen. Diese Zeit umfasst die Installations- und Einrichtungszeit, nicht die Bauzeit. Ein Pod brauchte einst drei Wochen zum Bau, doch bald werde dies einen Tag dauern, wenn das Unternehmen die Produktion hochfährt, so das Unternehmen. Runware wird Ersatzteile liefern, falls Komponenten ausfallen. Kunden können Rechenleistung auch von Runware mieten oder eigene GPUs bereitstellen und zahlen eine monatliche Gebühr für die Pods und den Betrieb. Strom und Internet werden separat abgerechnet, sagte er.
Die Pods können auch an die Wünsche der Kunden angepasst werden, sagte er. Die Pods haben ein Standarddesign, können aber so konfiguriert werden, dass sie die Anforderungen der Kunden und die neuesten GPU-Chips erfüllen. Chips können nach ihrer Bestellung lange Zeit bis zur Lieferung brauchen, was Runware zugutekommt. „Unsere Lieferzeiten für Pods sind auch kürzer als die aktuellen GPU-Vorlaufzeiten, was uns Zeit gibt, die Infrastruktur an die bestellte Hardware anzupassen“, sagte er. „Bei neuen GPU-Generationen kann unser eigenes Hardware-Team Komponenten selbst entwerfen, bauen und testen, sodass wir uns schnell anpassen können.“
Im Moment sind das alles Pläne – die Umsetzung ist der Test. Die Fabrik wird viele Menschen, Bestände, Lieferkettenlogistik und Geld benötigen. Es gibt warnende Beispiele für die Neuerfindung der Fertigung, allen voran das Elektroauto-Startup Arrival, das einst mit über 13 Milliarden Dollarbewertet wurde und Mühe hatte, Elektrofahrzeuge kosteneffizient massenproduzieren zu können im Vergleich zu traditionellen Werken. Runware, das bislang mehr als 60 Millionen Dollar aufgebracht hat, sagte, es plane eine Series B, doch im Moment stellt es die Fabrik fertig und nimmt sie mit der Series A über 50 Millionen Dollar in Betrieb, die es im Dezember letzten Jahres aufgenommen hat.
„Unsere Kostenstruktur ist eine ganz andere“, sagte Radulescu und erklärte, wie Runware das Schicksal von Arrival vermeiden will. „Wir haben durchaus Personalkosten und Materialkosten“, fuhr er fort. „Aber unsere Fabrikbelegschaft ist kosteneffizient im Verhältnis zum Wert der Bereitstellung von Rechenleistung für KI.“ Er sagte auch, dass der Entwurf eigener Systeme und der Kauf weitverbreiteter, günstiger Teile helfen, die Kosten niedrig zu halten. „Wir haben einen sehr erfahrenen Werksleiter aus der Automobilindustrie geholt, der neben unserem Hardware-Chef arbeiten soll und uns hilft, diese Umsetzung richtig hinzubekommen.“
Die Beschaffung von Komponenten könnte ebenfalls eine Herausforderung sein. Obwohl Runware sagt, es entwerfe und baue seine eigene Kühlung und andere Pod-Systeme mit Standardkomponenten, kommen einige Teile, wie Pumpen und Lüfter, aus Deutschland, und das Unternehmen ist weiterhin bei Vernetzung auf Nvidia angewiesen. Dennoch behauptet Runware, es habe seit Beginn der Angebote an externe Kunden vor einem Monat zugesagtes Interesse von 1 Milliarden Dollar für seine Sonic-Pods erhalten, „was über 20 Megawatt entspricht und was wir nun auszuliefern arbeiten“, sagte Radulescu.
Rechenzentren in den USA und im Ausland werden dafür kritisiert, wie viel Energie sie verbrauchen und wie sich das auf das Stromnetz und andere Ressourcen auswirkt. Auf Nachfrage sagte Radulescu, die Pods seines Unternehmens benötigten nur Strom und eine Internetverbindung. Sie würden ein geschlossenes Flüssigkühlsystem mit luftgekühlten Radiatoren zur Wärmeabgabe verwenden, sodass sie eigentlich keinen Wasseranschluss benötigten. „Wir arbeiten mit Stromversorgern an einer Standort-Pipeline über 397 Megawatt mit Potenzial zur Erweiterung auf 1,2 Gigawatt“, sagte er mit Verweis auf seine Liste geplanter Standorte und fügte hinzu, dass das Unternehmen seine modularen Rechenzentren auf Standorten errichtet, die viel kleiner sind als die von Hyperscalern wie Amazon, Microsoft und Google genutzten.
Die Standorte, fuhr er fort, hätten typischerweise bereits Strom, sodass sie das Stromnetz nicht weiter belasten oder die Gemeinschaft stören sollten. Die Pods laufen außerdem „vollkommen geräuschlos bis zu Temperaturen von 86 Grad Fahrenheit. Wir nutzen Energie aus erneuerbaren Quellen, wann immer es möglich ist“, fuhr er fort. „Wir arbeiten aktiv daran, unser Netzwerk von Energieanbietern und Standorten auszubauen. Unser Ziel ist es, erneuerbare Energien als unsere Hauptenergiequelle zu haben.“
Als Nächstes wird Runware Anfang des kommenden Jahres seine neue Fabrik in Betrieb nehmen und dann in die USA und andere Regionen weltweit expandieren. Modulare Systeme sind die Zukunft und werden bald „der Standard für große KI-Deployments“, so Radulescu.
„Kunden sollten von Anfang an ein Hyperscale-Rechenzentrum um werksgefertigte Pods herum planen können und es in Monaten statt Jahren in Betrieb nehmen“, fügte er hinzu.