IT之家، وفقًا للأخبار الصادرة في 16 أكتوبر، أعلنت شركة الذكاء الاصطناعي PrismML أمس (15 أكتوبر) عن نشر تدوينة، حيث أعلنت عن إطلاق سلسلة النماذج Ternary Bonsai 2، وتتنوع حجمها بين 2 بيغا بايت، و4 بيغا بايت، و9 بيغا بايت. الهدف هو تشغيل الكائنات الذكية للذكاء الاصطناعي محليًا على الهواتف، وأجهزة الكمبيوتر، والأجهزة القابلة للارتداء، لإجراء التفكير، والتمييز في الصور، واستدعاء الأدوات وغيرها من المهام.
نموذجات سلسلة Ternary Bonsai 2 مبنية على قاعدة Qwen 3.5 الخاصة بأرامي، وتستخدم طريقة التمثيل بالأوزان الثلاثية، أي أن معاملات النموذج تُرمز بثلاث قيم فقط: -1، 0، +1. ووفقًا للإعلان الرسمي، فإن مساحة التخزين لكل من النماذج 2B، 4B، و9B تبلغ حوالي 0.43GB، و0.95GB، و2GB على التوالي.
من ناحية القدرات، تركز سلسلة Bonsai 2 على كفاءة الأجهزة المحلية: اتباع الأوامر، إكمال المهام اليومية، استخدام الأدوات على الأجهزة المتحركة، وتجنب الإخراج المتكرر. اختبرت الشركة الرسمية ستة أنواع من القدرات في 19 معيارًا: استدعاء الأدوات الذكية، الرياضيات، اتباع الأوامر، البرمجة، المعرفة والاستدلال، الفهم البصري؛ حيث انخفضت كمية التوكينات المطلوبة للنموذج 9B في تنفيذ الأوامر القياسية والمهام الرياضية اليومية بحوالي 40%.
من ناحية الأداء، قالت PrismML إن النماذج الجديدة يمكنها تحقيق أقصى معدل استهلاك للطاقة بنسبة 3 أضعاف ومعدل تدفق بنسبة 5 أضعاف مقارنة بالنماذج بدقة كاملة على أجهزة مثل RTX 4090 وM5 Pro. على جهاز iPhone 18 Pro Max، يمكن للنموذج 9B تحقيق ما يصل إلى 34 عنصرًا في الثانية، بينما يمكن للنموذج 2B تحقيق ما يصل إلى 120 عنصرًا في الثانية. نشرت IT之家 لقطات الشاشة ذات الصلة كما يلي:
يمكن دمج هذه السلسلة مع Bonsai 2 27B القائمة مسبقًا في خط إنتاج كامل يغطي المهام الخفيفة إلى العمليات المعقدة. يمكن للمطورين تشغيل النموذج عبر llama.cpp على وحدات GPU من NVIDIA، أو تنصيبه باستخدام MLX على Mac وiPhone والiPad ؛ ويُسمح بتوزيع أوزان النموذج بموجب رخصة Apache 2.0.