هذا التحديث يحل بشكل خاص مشكلة تؤدي فيها بعض المدخلات إلى فقدان نوعها الأصلي داخل دالة `prepare_inputs_for_generation` في دالة `generate>، مما يسبب مشاكل في النماذج متعددة الأشكال. كما يعالج أيضًا بعض المشاكل الأخرى المذكورة في الاكتشافات التالية.
يتضمن الاكتشافات التالية:
- إصلاح تصدير قاموس المدخلات في عملية التوليد (#49731) بواسطة @Cyrilvallez
- إصلاح تدرجات الخبراء الصفرية في bfloat16 باستخدام التوازي الخبير وep_size < fsdp_size (#49688) من قبل @qgallouedec
- إعلن عن طرق الإدخال للذكاء الاصطناعي الذي يبلغ عن النص فقط (#49677) من قبل @qgallouedec
- تجنب نسخ المضيف إلى الجهاز في eager_mask (#49684) بواسطة @hmellor