Das Gemini 4 Argon beschleunigt auch unsere @GoogleGemma-Open-Modelle – sie sind nun fast dreimal so schnell.
In nur wenigen Tagen hat Argon Gemma 4 E2B optimiert, sodass die Inferenzgeschwindigkeit um das 2,85-fache auf einen A100 mit vLLM steigt – von etwa 37.900 zu über 108.000 Tokens pro Sekunde, bei 100% Tokenparität und zero Qualitätsverlust.
Hier ist die Beschleunigung in Aktion – es werden gleichzeitig 64 aktive Python-Simulationen erstellt ↓
https://x.com/osanseviero/status/2110096066293207535/video/1