ما قبل الإصدار / بناء مستمر: هذا بناء تجريبي، وليس إصداراً مستقراً.
sycl: إعادة ترتيب كود IQ3 (#29107) * sycl: إعادة ترتيب دائم لأوزان IQ3_S/IQ3_XXS لفك التشفير والـ prefill في SYCL إضافة تخطيطات أوزان معاد ترتيبها بشكل دائم لـ IQ3_S و IQ3_XXS. يُعاد ترتيب الأوزان مرة واحدة عند التحميل؛ ثم تمشي عمليات الضرب النقطي MMVQ المعاد ترتيبها عبر كتل فائقة كثيفة باستخدام dp4a و توسعة إشارة SWAR بدلاً من جمع البتات من التخطيط القياسي المتشابك. تفك الكمي المراعٍ لإعادة الترتيب يغذي عمليات GEMM للـ prefill المجمّعة بحيث تحصل معالجة الأوامر التمهيدية على نفس الفائدة. كما تم تقوية فحص بناء oneDNN: حزمة DNNL مفقودة أو بناء DNNL خاص بالمعالج المركزي فقط يفشل الآن عند وقت التهيئة بدلاً من إنتاج واجهة خلفية متدهورة بصمت. القياسات على Intel Arc Pro B70 مع Qwen3.8-27B-GSQ-RCO-IQ3_S (MTP)، -ngl 999 -b 4096 -ub 1024 -fa مُفعّل: tg256 @ 0 ctx 12.92 -> 23.54 tok/s (+82%) tg256 @ 9,216 12.33 -> 21.69 tok/s (+76%) tg256 @ 64,000 9.76 -> 14.91 tok/s (+53%) pp8192 833.9 -> 833.6 tok/s (ثابت) Qwen3.5-9B Q4_K_M / Q3_K_M لم تتغير ضمن حدود الضجيج (أكبر فرق -0.5% pp، و tg ثابت)، لذا التكميمات القياسية غير متأثرة. توسيع اندماج GLU في MMVQ و اندماج rms_norm+scale غير مدرجَين عمداً في هذا التغيير؛ الفرع الرئيسي master يحملهما بالفعل عبر #28931. * إزالة الانتظار بناءً على طلب المراجعة * sycl: إصلاح نهايات أسطر fusion.cppالموقع الإلكتروني: - https://llama.app
شهادات التصديق: - https://github.com/ggml-org/llama.cpp/attestations/56116978
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64، مع تفعيل KleidiAI) معطّل - macOS Intel (x64) - iOS XCFramework
لينكس: - أوبونتو x64 (المعالج المركزي CPU) - أوبونتو arm64 (المعالج المركزي CPU) - أوبونتو s390x (المعالج المركزي CPU) - أوبونتو x64 (Vulkan) - أوبونتو arm64 (Vulkan) - أوبونتو x64 (CUDA 12) - مكتبات CUDA 12.8 - أوبونتو x64 (CUDA 13) - مكتبات CUDA 13.4 - أوبونتو arm64 (CUDA 13) - مكتبات CUDA 13.4 - أوبونتو x64 (ROCm 10.0) - أوبونتو x64 (OpenVINO) - أوبونتو x64 (SYCL FP32) - أوبونتو x64 (SYCL FP16) - لينكس arm64 (سنابدراغون: المعالج المركزي CPU، معالج Adreno الرسومي، وحدة Hexagon NPU العصبية) - دليل الإعداد
أندرويد: - أندرويد arm64 (المعالج المركزي CPU) - أندرويد arm64 (سنابدراغون: المعالج المركزي CPU، معالج Adreno الرسومي، وحدة Hexagon NPU العصبية) - دليل الإعداد
ويندوز: - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - CUDA 12.4 DLLs - Windows x64 (CUDA 13) - CUDA 13.4 DLLs - Windows arm64 (CUDA 13) - CUDA 13.4 DLLs - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)
openEuler: - معطّل - openEuler بنية x86 (310p) - openEuler بنية x86 (910b، ACL Graph) - openEuler بنية aarch64 (310p) - openEuler بنية aarch64 (910b، ACL Graph)
واجهة المستخدم: - واجهة المستخدم