비 소리를 듣다, 야비사에서
양자비 | 공식 계정 QbitAI
지파오는 Zcode에서 GLM-5.3-Highspeed 모델을 새로 출시했습니다.
네티즌 @leo114119에 따르면, 이 새로운 모델은 현재 Zcode 3.15.1에서 체험이 가능하며, 구독자에게는 무작위로 제공된다고 합니다.
그가 전송하는 속도는 490 토큰/초에 달했습니다.
저도 바로 Zcode에서 시도해 보았고, 수동으로 모델을 추가하고 전환하는 것을 해보았습니다.
하지만 왜 라이트 패키지 사용자들이 혜택을 받을 자격이 없는지, 아니면 아직 그 단계에 이르지 못했는지 모르겠어요 😭...
일단 탄식할 수밖에 없네(：з」∠)
GLM-5.3 고속 버전이 출시되었나요?
고속 모델인 만큼 가장 주목해야 할 것은 당연히 속도입니다.
490TPS——이 네티즌이 공개한 속도 수치도 꽤 놀랍습니다. 500TPS에 가까운 수치입니다.
TPS는 초당 생성되는 토큰의 수를 의미합니다. 이 속도를 유지한다면 1만 개의 토큰을 생성하는 데 약 20초가 걸립니다.
알다시피, 지난달 지폽이 출시한 GLM-5.3-FlashX의 최고 속도도 200 토큰/초에 불과합니다.
인공 분석 기준으로 GLM-5.3-Flash는 Z.ai API에서 약 60 토큰/초의 출력 속도를 보입니다.
이 새로운 모델은 어떤 속도의 선인인가?????
또한 GLM-5.3-Highspeed라는 이름에 대해서는 이전부터 징후가 있었습니다.
Pi 모델 디렉토리에는 GLM-5.3-Highspeed가 포함되어 있습니다.
이 목록에 따르면 GLM-5.3-Highspeed 컨텍스트 윈도우는 100만 토큰이며, 최대 생성 토큰 한도는 131,072, 약 128k입니다. 또한 low, high, max의 세 가지 사고 강도 설정도 제공됩니다.
하지만, 이러한 설정은 GLM-5.3 일반 버전과도 일치합니다.
또한, 일부 네티즌들이 reddit에서 이 새로운 모델에 대해 논의했으며, OpenCode에 있는 익명 모델 Omen Alpha와 관련이 있을지도 모른다고 추측했습니다.
오멘 알파는 9월에 오픈코드를 새로 출시했으며, 네티즌들에 의해GLM과 관련이 있다는 사실이 밝혀졌습니다.
또한 네티즌들이 펭귀가 자전거를 타는 실력을 직접 시험해 보았습니다..
요약하자면: 속도가 빠르고, 생각이 오래 걸리며, 효과도 꽤 좋다.
Omen Alpha가 도대체 어떤 모델인지에 대해서는 여러 가지 의견이 분분합니다.
어떤 사람들은 그것이 GLM-5.3-Highspeed라고 말하고, 또 다른 사람들은 GLM-5.3-Omni나 GLM-5.4-Flash라고 추측합니다.
이전에 지파오도 고속 버전 모델을 출시한 적이 있었습니다.
올해 5월, 지파는 GLM-5.1-highspeed 모델을 출시했으며, 이 모델의 출력 속도는 400토큰/초입니다. 당시로서는 전 세계 대규모 모델 제조업체의 API 속도 한계를 재정립한 수준이었습니다.
이번에 GLM-5.3-Highspeed가 정말 490 TPS 수준에 도달한다면, 장거리 작업에 있어서 속도도 상당히 만족스러울 것입니다.
현재 이 새로운 모델은 Zcode에서 무작위로 회색화된 상태입니다. 회색화된 것을 보신 네티즌이 있다면, 여러분의 실제 사용 경험을 공유해 주세요!!