إصدار قبلي / بناء مستمر: هذا بناء تجريبي وليس إصدارًا مستقرًا.
graph: حشو بُعد KV لانتباه no-cache إلى 256 (#30416) يقوم مسار no-cache ببناء قناع [n_tokens, n_tokens] ويمرّر K وV بدون حشو، لذا يرى FLASH_ATTN_EXT أن K->ne[1] == n_tokens. تتطلب أنوية CUDA حجم الرأس 512 أن يكون الحد مضاعفاً من FATTN_KQ_STRIDE، لذا تعود العملية إلى CPU لمعظم الأطوال، ويعطّل اختبار -fa التلقائي (1 رمز) الانتباه الفلاشي لمثل هذه النماذج. قم بحشو القناع مثل llama_kv_cache::get_n_kv وحشو K وV بالأصفار حتى بُعد KV الخاص بالقناع. يبني clef قناعه السببي الخاص ويحشوه بالطريقة نفسها.الموقع الإلكتروني: - https://llama.app
إثباتات الأصل: - https://github.com/ggml-org/llama.cpp/attestations/55199687
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI enabled) DISABLED - macOS Intel (x64) - إطار XCFramework لنظام iOS
لينكس: - أوبونتو x64 (معالج CPU) - أوبونتو arm64 (معالج CPU) - أوبونتو s390x (معالج CPU) - أوبونتو x64 (Vulkan) - أوبونتو arm64 (Vulkan) - أوبونتو x64 (CUDA 12) - مكتبات CUDA 12.8 - أوبونتو x64 (CUDA 13) - مكتبات CUDA 13.4 - أوبونتو arm64 (CUDA 13) - مكتبات CUDA 13.4 - أوبونتو x64 (ROCm 10.0) - أوبونتو x64 (OpenVINO) - أوبونتو x64 (SYCL FP32) - أوبونتو x64 (SYCL FP16) - لينكس arm64 (سنابدراغون: CPU، وحدة معالجة الرسومات Adreno، وحدة NPU من Hexagon) - دليل الإعداد
أندرويد: - أندرويد arm64 (معالج CPU) - أندرويد arm64 (سنابدراغون: CPU، وحدة معالجة الرسومات Adreno، وحدة NPU من Hexagon) - دليل الإعداد
ويندوز: - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - CUDA 12.4 DLLs - Windows x64 (CUDA 13) - CUDA 13.4 DLLs - Windows arm64 (CUDA 13) - CUDA 13.4 DLLs - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)
openEuler: - معطّل - openEuler بنية x86 (310p) - openEuler بنية x86 (910b, ACL Graph) - openEuler بنية aarch64 (310p) - openEuler بنية aarch64 (910b, ACL Graph)
واجهة المستخدم: - واجهة المستخدم