量子位

نموذج جديد من زي بو، 490 توكينات/ثانية!

GLM “الخالد السريع” قد وصل؟

استمع إلى المطر من معبد أوفين
كوانتي بي | الحساب العام QbitAI

أطلقت زيبيو نموذجًا جديدًا GLM-5.3-Highspeed، وهو متاح في Zcode.

وفقًا لما أعلنه مستخدم الإنترنت @leo114119، فإن هذا النموذج الجديد متاح حاليًا للتجربة في Zcode 3.15.1، ويتم منح المشتركين بشكل عشوائي.

سرعة الإنشاء التي قدمها بلغت حتى 490 توكينات/ثانية.

لقد جربت أيضًا في Zcode على الفور، وحاولت إضافة النموذج يدويًا وتبديله.

لكن لا أعرف إذا كان السبب هو أن مستخدمي الحزمة الخفيفة لا تتمتع بشروط الاستفادة، أم لأنها لم تصل إلى المستوى المناسب 😭...

يمكن فقط التأمل والشكوى من الوضع الحالي (:з」∠)

GLM-5.3 النسخة السريعة أصبحت متاحة؟

بما أنها نموذج سريع، فإن أهم ما يجب الانتباه إليه هو بالطبع السرعة.

490TPS — هذا الرقم الذي كشفه المستخدم على الإنترنت، هو أيضًا رقم مخيف للغاية، قريب من 500TPS.

TPS يعني عدد التوكنات التي يتم إنتاجها في الثانية. إذا استمرت هذه السرعة، فإن إنتاج 10,000 توكين سيستغرق حوالي 20 ثانية فقط للمرحلة الإنشائية.

يجب معرفة أن الجهاز GLM-5.3-FlashX الذي أصدرته شركة Zhipu الشهر الماضي، قد تصل سرعته القصوى إلى 200 توكينات في الثانية فقط.

ووفقًا لتحليل الحركة الاصطناعي، فإن سرعة الإخراج لجهاز GLM-5.3-Flash على واجهة Z.ai API تبلغ حوالي 60 توكينات/ثانية.

ما هي سرعة هذا النموذج الجديد يا خالد؟؟؟

وأيضًا، كان هناك مؤشرات سابقة حول الاسم GLM-5.3-Highspeed.

تم تضمين دليل نموذج Pi في الدليل GLM-5.3-Highspeed.

في هذا الفهرس، يكون حجم نافذة السياق GLM-5.3-Highspeed 1 مليون توكين، والحد الأقصى للتوكينات المُولدة هو 131,072، أي حوالي 128k؛ كما تم تقسيم مستويات شدة التفكير إلى ثلاث درجات: low، high، max.

لكن، هذه التكوينات تتوافق أيضًا مع النسخة العادية من GLM-5.3.

بالإضافة إلى ذلك، تحدث بعض المستخدمين على موقع reddit عن هذا النموذج الجديد، وتكهنوا بأنه قد يكون مرتبطًا بنموذج مجهول الهوية على OpenCode، Omen Alpha.

تم إصدار Omen Alpha في سبتمبر الماضي مع OpenCode، وقد تم كشفه من قبل مستخدمي الإنترنت على أنه مرتبط بـ GLM.

كما قام مستخدمو الإنترنت باختبار مستوى لاعبي الدراجات الهوائية من نوع البيرنيك..

باختصار، السرعة عالية، والتفكير طويل، والنتيجة جيدة نسبيًا.

أما بالنسبة لما هو نموذج Omen Alpha في الحقيقة، فهناك آراء مختلفة.

يقول البعض إنه GLM-5.3-Highspeed، بينما يتوقع البعض الآخر GLM-5.3-Omni أو GLM-5.4-Flash.

في السابق، قدمت شي بو أيضًا نسخة من النموذج عالية السرعة.

في مايو هذا العام، أطلقت زيبو GLM-5.1-highspeed، حيث تبلغ سرعة إخراج النموذج 400 توكينات/ثانية، وكان ذلك في ذلك الوقت أيضًا يمثل تجديدًا لحد العالي لسرعة API لشركات النماذج الكبيرة العالمية.

إذا تمكن GLM-5.3-Highspeed من الوصول إلى مستوى 490 TPS بالفعل، فإن السرعة ستكون مهمة جدًا للأعمال البعيدة.

حاليًا، هذا النموذج الجديد لا يزال في مرحلة التصنيف العشوائي باللون الرمادي في Zcode. إذا كان لديك مستخدمين شاركوا في هذا التصنيف، نرحب بمشاركة تجربتهم الفعلية!!

المصدر الأصلي

量子位

ملاحظات المحتوى

النشر الأصلي والحقوق تعود إلى المصدر.

ترجمة آلية · يُرجى الرجوع إلى الأصل