إصدار ما قبل الإطلاق / بناء مستمر: هذا بناء تجريبي وليس إصداراً مستقراً.
graph: حشو انحياز KQ لانتباه no-cache (#30446) يقوم انتباه no-cache بحشو K و V والقناع إلى 256، ولكن T5 يضيف أيضاً انحياز موضع نسبي بالحجم [n_tokens, n_tokens]، لذا تفشل عملية الجمع مع KQ ما لم يقسم n_tokens العرض المحشو. احشُ الانحياز بالأصفار حتى بُعد KV الخاص بالقناع، مثل K و V.الموقع الإلكتروني: - https://llama.app
الشهادات (Attestations): - https://github.com/ggml-org/llama.cpp/attestations/55592156
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64، مع تفعيل KleidiAI) DISABLED (معطّل) - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - مكتبات CUDA 12.8 - Ubuntu x64 (CUDA 13) - مكتبات CUDA 13.4 - Ubuntu arm64 (CUDA 13) - مكتبات CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU، Adreno GPU، Hexagon NPU) - دليل الإعداد
أندرويد: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU، Adreno GPU، Hexagon NPU) - دليل الإعداد
ويندوز: - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - ملفات DLL الخاصة بـ CUDA 12.4 - Windows x64 (CUDA 13) - ملفات DLL الخاصة بـ CUDA 13.4 - Windows arm64 (CUDA 13) - ملفات DLL الخاصة بـ CUDA 13.4 - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)
openEuler: - معطّل - openEuler x86 (310p) - openEuler x86 (910b، ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b، ACL Graph)
واجهة المستخدم: - واجهة المستخدم