KI-Agenten tun mehr als nur Antworten zu generieren. Sie suchen nach Informationen, abfragen Datenbanken, schreiben und testen Code und führen Aktionen aus.
Jeder dieser Schritte verhtut auf eine CPU, wobei die Agenten während der Aufgabe zwischen GPU-Rechen und CPU- Ausführung wechseln.
Wenn Unternehmen mehr Agenten einsetzen, benötigen AI-Fabriken CPUs, die diese Schritte schnell ausführen und gleichzeitig viele Agenten unterstützen können – und das alles innerhalb der verfügbaren Leistungsgrenzen.
Was das bedeutet: Die Anbieter von AI-Infrastruktur müssen mehr Agenten unterstützen, ohne dass jeder Agent länger warten muss, bis seine Arbeit erledigt ist. Und ganz wichtig: AI-Fabriken haben begrenzte Energie. Das bedeutet, dass die Betreiber eine Infrastruktur wählen müssen, die die Arbeit pro Watt maximiert.
Warum es wichtig ist: NVIDIA Vera bietet sowohl schnelles Agent-Verhalten als auch hohe Kapazität pro Watt innerhalb einer einzigen CPU. Dadurch können Anbieter eine einzige CPU für eine Vielzahl von Agent-Arbeitslasten verwenden, anstatt schnelle und dichte x86 Komponenten zu kombinieren, um Geschwindigkeit und Kapazität auszugleichen.
Die Daten, die das beweisen: In einer Vergleichung von 100-Megawatt-Datacentern hat NVIDIA festgestellt, dass eine einzige Vera-CPU besser funktioniert als die schnellste x86-CPU und auch die energieeffizienteste x86-CPU.
- Vera bietet eine führende Agent-Geschwindigkeit und ermöglicht 1,6-mal mehr Agenten pro Watt im Vergleich zur schnellsten x86-CPU.
- Vera bietet 2x schnellere Agent-Geschwindigkeit und eine überlegene Energieeffizienz im Vergleich zur energieeffizientesten x86-CPU.
Die Partner setzen Vera bereits in die Praxis um. Die frühzeitigen Nutzer erleben denselben außergewöhnlichen Leistungsverlauf bei Produktionstests:
- Perplexity: Die agentischen Programmieraufgaben wurden 1,5x schneller mit Vera ausgeführt als auf traditionellen CPUs. Perplexity plant, Vera in einem bevorstehenden Produktionssystem einzusetzen.
- DeepInfra: Erzielte eine Geschwindigkeit von bis zu 2,2x der schnellsten x86-Prozessor für agentische Orchestrierung im Produktionsagent-Bedarf und war somit die schnellste der vier getesteten Architekturen.
- ClickHouse: Sein Standard-Binary ohne spezifische Anpassungen für Vera lief nahezu linear auf 176 Kerne und erreichte den Spitzenplatz auf der ClickBench-Hardware-Tabelle.
- DuckLabs: Erzielte etwa 1,5-mal die mittlere TPC-H SF1000-Leistung eines Intel Xeon 6-Baselines.
- Daytona: Bringte 1.000 Agent-Sandboxes online in 10,8 Sekunden und erreichte 12,7 abgeschlossene Jobs pro Sekunde bei 2.000 konkurrierenden Sandboxes, unter Verwendung von Vera, gegenüber 88,4 Sekunden mit x86.
- Modal: Es wurde eine Durchsatzleistung im Sandbox-Modus von bis zu 2x pro Kern erreicht, verglichen mit vergleichbaren x86-Hardware, wobei die Vorteile unter hohem Last weiter zunehmen.
Lernen Sie mehr über die NVIDIA Vera CPU.