llama.cpp Releasesآخر تحديث

[إصدار ما قبل الإطلاق / بناء مستمر] b11630

[إصدار ما قبل الإطلاق / بناء مستمر] ggml: إصلاح تخطيط نتيجة conv_1d للمدخلات المجمّعة (#28738) * ggml: إصلاح تخطيط نتيجة conv_1d للمدخلات المجمّعة تقوم عملية GEMM خلف conv_1d بطيّ الدفعة في صفوفها، لذا يستقر الناتج في…

إصدار ما قبل الإطلاق / بناء مستمر: هذا بناء تجريبي وليس إصدارًا مستقرًا.

ggml: إصلاح تخطيط نتيجة conv_1d للمدخلات المجمّعة (#28738) * ggml: إصلاح تخطيط نتيجة conv_1d للمدخلات المجمّعة تقوم عملية GEMM خلف conv_1d بطيّ الدفعة في صفوفها، لذا يستقر الناتج في الذاكرة بترتيب [OL, N, OC] بينما تدّعي عملية reshape الترتيب [OL, OC, N]. الشكل صحيح والمحتويات مبادلة، فلا شيء يُطلق التنبيه: لا assert، ولا إلغاء، بل يعمل الرسم البياني ببساطة وتخرج القنوات متداخلة مع الدفعات. عندما N == 1 يصف كلا القراءتين المخزن نفسه، ولهذا لم تصطدم به المُشوِّعات الصوتية الثلاث في الشجرة إطلاقًا، فهي جميعًا تضغط إلى 2d بعد الاستدعاء مباشرة. نعيد التشكيل إلى التخطيط الحقيقي ونعيد تبديل OC و N. يحتفظ مسار N == 1 بإعادة التشكيل المباشرة، فبنّاء الرسم البياني الحاليون يحصلون على الرسم نفسه dون دفع تكلفة نسخة إضافية. يقارن tests/test-conv-1d.cpp عملية التفاف مجمّعة واحدة مقابل N عمليات التفاف أحادية الدفعة مبنية من الوزن نفسه وشرائح المدخلات نفسها. خمسة من الأشكال الهندسية السبعة تفشل قبل هذا التغيير وتنجح جميعها السبعة بعده. N == 1 و OC == 1 ينجاحان في الحالتين، حيث إن تبديل بعدين عندما يكون أحدوهما 1 لا يغيّر شيئًا. مسار الدفعة مهم للمشاريع الصوتية اللاحقة حيث تتشارك عدة مسارات توليد رسمًا بيانيًا واحدًا. لا شيء في mtmd يجمع مُشوِّعًا صوتيًا في دفعة اليوم، فكل واحد منها يبث تدفقًا واحدًا ويحمل سياقه المتبقي بين الاستدعاءات، لكن العملية أصبحت صحيحة الآن إذا نما أحدها ببعد مسارات. * ggml: بناء رسم conv_1d نفسه لكل حجم دفعة استجابةً لمراجعة ggerganov: حذف فرع N == 1 من ggml_conv_1d. تُعاد دائمًا إعادة تشكيل نتيجة GEMM إلى [OC, N, OL] ثم تبديلها كما تفعل ggml_conv_2d، فيبني كل حجم دفعة الرسم البياني نفسه. بالنسبة إلى N == 1 يضيف هذا عملية cont على ترخيص مرتب أصلًا.

الموقع الإلكتروني: - https://llama.app

الشهادات (Attestations): - https://github.com/ggml-org/llama.cpp/attestations/56061987

macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64، مع تمكين KleidiAI) معطّل - macOS Intel (x64) - iOS XCFramework

لينكس: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - مكتبات CUDA 12.8 - Ubuntu x64 (CUDA 13) - مكتبات CUDA 13.4 - Ubuntu arm64 (CUDA 13) - مكتبات CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - دليل الإعداد

أندرويد: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - دليل الإعداد

ويندوز: - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - ملفات CUDA 12.4 DLLs - Windows x64 (CUDA 13) - ملفات CUDA 13.4 DLLs - Windows arm64 (CUDA 13) - ملفات CUDA 13.4 DLLs - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)

openEuler: - معطّل - openEuler على معمارية x86 (310p) - openEuler على معمارية x86 (910b, ACL Graph) - openEuler على معمارية aarch64 (310p) - openEuler على معمارية aarch64 (910b, ACL Graph)

الواجهة: - الواجهة

المصدر الأصلي

llama.cpp Releases

ملاحظات المحتوى

النشر الأصلي والحقوق تعود إلى المصدر.

ترجمة آلية · يُرجى الرجوع إلى الأصل