الإصدار ما قبل الإطلاق / البناء المستمر: هذا بناء تجريبي، وليس إصدارًا مستقرًا.
server: حفظ حالات الخانات القابلة للاستعادة فقط في ذاكرة التخزين المؤقت للموجّهات (#30498) * server: حفظ حالات الخانات القابلة للاستعادة فقط في ذاكرة التخزين المؤقت للموجّهات تحلقة حفظ الخانات الخاملة تخزّن كل خانة خاملة كلما بدأت مهمة، بينما مهام الإكمال وحدها هي التي تستعيد من ذاكرة التخزين المؤقت للموجّهات. حالات إعادة الترتيب، والتضمين والقرار والتعبئة تمتلئ ذاكرة التخزين المؤقت حتى حدودها دون أن تُقرأ مطلقًا، والخانات المخزَّنة مسبقًا تُعرض مجدددًا عند بدء كل مهمة. تتتبع كل خانة الآن عبر cache_pending ما إذا كانت حالتها قابلة للاستعادة وغائبة عن الذاكرة المؤقتة: إفلات إكمال أو استعادة خانة صريحة يضبطها، وprompt_save يستهلكها، وprompt_clear يعيدها إلى الصفر. كلا مساري الحفظ يتشاركان هذه القاعدة، ومسار LRU يستعيد لمهام الإكمال فقط. * server: اختبار أن خانات القرار تتجاوز ذاكرة التخزين المؤقت للموجّهات مهام القرار لا تحدد خانتها أبدًا كقابلة للتخزين المؤقت، لذا يجب ألا يؤدي بدء مهام جديدة إلى حفظ خاناتها الخاملة في ذاكرة التخزين المؤقت للموجّهات في ذاكرة الوصول العشوائي، مع أو بدون ذاكرة KV موحدة. * server: استعادة أي مهمة تعيد الاستخدام من ذاكرة التخزين المؤقت للموجّهات مهام التضمين وإعادة الترتيب لا تعيد استخدام حالتها أبدًا، لذا تُمسح خاناتها عند الإفلات مثل الخانات الفرعية والذاكرة المؤقتة لا تحتفظ إلا بالحالات التي يمكن لمهمة لاحقة استعادتها. مهام التعبئة والقرار تستعيد الآن من الذاكرة المؤقتة أيضًا، مما يحل محل علامة cache_pending. نماذج القرار تعطّل ذاكرة التخزين المؤقت للموجّهات ما لم يُعطَ --cache-ram، لأن حالاتها نادرًا ما تتكرر.الموقع الإلكتروني: - https://llama.app
الإقرارات: - https://github.com/ggml-org/llama.cpp/attestations/56156929
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64، KleidiAI مُفعَّل) معطَّل - macOS Intel (x64) - iOS XCFramework
لينكس: - أوبونتو x64 (CPU) - أوبونتو arm64 (CPU) - أوبونتو s390x (CPU) - أوبونتو x64 (Vulkan) - أوبونتو arm64 (Vulkan) - أوبونتو x64 (CUDA 12) - مكتبات CUDA 12.8 - أوبونتو x64 (CUDA 13) - مكتبات CUDA 13.4 - أوبونتو arm64 (CUDA 13) - مكتبات CUDA 13.4 - أوبونتو x64 (ROCm 10.0) - أوبونتو x64 (OpenVINO) - أوبونتو x64 (SYCL FP32) - أوبونتو x64 (SYCL FP16) - لينكس arm64 (سنابدراجون: CPU، Adreno GPU، Hexagon NPU) - دليل الإعداد
أندرويد: - أندرويد arm64 (CPU) - أندرويد arm64 (سنابدراجون: CPU، Adreno GPU، Hexagon NPU) - دليل الإعداد
ويندوز: - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - ملفات CUDA 12.4 DLLs - Windows x64 (CUDA 13) - ملفات CUDA 13.4 DLLs - Windows arm64 (CUDA 13) - ملفات CUDA 13.4 DLLs - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)
openEuler: - معطّل - openEuler بنية x86 (310p) - openEuler بنية x86 (910b, ACL Graph) - openEuler بنية aarch64 (310p) - openEuler بنية aarch64 (910b, ACL Graph)
واجهة المستخدم: - واجهة المستخدم