Gemini 4 Argon accélère également nos modèles ouverts @GoogleGemma – les rendant presque trois fois plus rapides.
En quelques jours seulement, Argon a optimisé Gemma 4 E2B pour obtenir une accélération de l’inférence de 2,85x via vLLM sur un A100, passant de ~37 900 à plus de 108 000 tokens par seconde, avec une parité de tokens de 100 % et aucune baisse de qualité.
Voici l’accélération en action, générant 64 simulations Python en direct en même temps ↓
https://x.com/osanseviero/status/2110096066293207535/video/1