Google · X

Gemini 4 Argon은 또한 @GoogleGemma 오픈 모델들의 속도를 높여줌으로써, 모델의 속도가 거의 세 배나 빨라졌습니다.

Gemini 4 Argon은 @GoogleGemma 오픈 모델도 속도를 높였습니다 — 거의 세 배나 빠르게 만들었습니다. 단 며칠 만에 Argon은 Gemma 4 E2B를 최적화하여 A100 장치에서 vLLM을 통해 2.85배의 인출 속도 향상을 이루었으며, 100% 토큰 평형과 질 저하 없이 초당 약 37,900개에서 108,000개 이상의 토큰까지 증가했습니다. 이 속도 향상의 실제…

Gemini 4 Argon은 또한 @GoogleGemma 오픈 모델들의 속도를 높여줌으로써, 모델의 속도가 거의 세 배나 빨라졌습니다.

불과 며칠 만에 아르곤은 Gemma 4 E2B를 최적화하여 vLLM을 통해 A100에서 2.85배의 인출 속도 향상을 이루었으며, 100%의 토큰 동등성과 제어질 저하가 없이 초당 약 37,900개의 토큰에서 108,000개 이상의 토큰으로 증가했습니다.

이것이 속도 향상의 실제 모습입니다. 한 번에 64개의 실시간 파이썬 시뮬레이션을 생성합니다 ↓

https://x.com/osanseviero/status/2110096066293207535/video/1

원문 출처

Google · X

내용 안내

원문 발행 및 권리는 출처에 있습니다.

기계 번역 · 원문을 참고하세요