إصدار ما قبل الإطلاق / بناء مستمر: هذا بناء تجريبي وليس إصدارًا مستقرًا.
server : تمرير id_slot عبر تحويل Anthropic /v1/messages (#28554) * server : تمرير id_slot عبر تحويل Anthropic /v1/messages تُنسخ الدالة server_chat_convert_anthropic_to_oai قائمة بيضاء صغيرة من المعاملات الشائعة من طلب Anthropic إلى الجسم الداخلي بنمط OAI وأسقطت id_slot. جميع نقاط نهاية الإكمال الأخرى تحترم id_slot؛ والوكيل (proxy) الذي يثبّت جلسةً على الـ slot الذي يحتوي ذاكرة KV الخاصة به يحتاج إلى الشيء نفسه على /v1/messages، وإلا فإنه يعود بصمت إلى الاختيار التلقائي للـ slot، وفي النماذج الهجينة/ال recurrent يدفع تكلفة إعادة prefill كاملة. يضيف اختبارًا يتحقق من أن الطلب الذي فيه id_slot محدد يُخدَم من ذلك الـ slot، ويُلاحَظ ذلك عبر GET /slots. * server : تقصير التعليقات * إزالة الاختبار --------- Co-authored-by: Xuan Son Nguyenالموقع الإلكتروني: - https://llama.app
شهادات التوثيق (Attestations): - https://github.com/ggml-org/llama.cpp/attestations/57810098
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI enabled) معطَّل - macOS Intel (x64) - إطار iOS XCFramework
لينكس: - أوبونتو x64 (CPU) - أوبونتو arm64 (CPU) - أوبونتو s390x (CPU) - أوبونتو x64 (Vulkan) - أوبونتو arm64 (Vulkan) - أوبونتو x64 (CUDA 12) - مكتبات CUDA 12.8 - أوبونتو x64 (CUDA 13) - مكتبات CUDA 13.4 - أوبونتو arm64 (CUDA 13) - مكتبات CUDA 13.4 - أوبونتو x64 (ROCm 10.0) - أوبونتو x64 (OpenVINO) - أوبونتو x64 (SYCL FP32) - أوبونتو x64 (SYCL FP16) - لينكس arm64 (Snapdragon: CPU، Adreno GPU، Hexagon NPU) - دليل الإعداد
أندرويد: - أندرويد arm64 (CPU) - أندرويد arm64 (Snapdragon: CPU، Adreno GPU، Hexagon NPU) - دليل الإعداد
ويندوز: - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - ملفات CUDA 12.4 DLLs - Windows x64 (CUDA 13) - ملفات CUDA 13.4 DLLs - Windows arm64 (CUDA 13) - ملفات CUDA 13.4 DLLs - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)
openEuler: - معطّل - openEuler x86 (310p) - openEuler x86 (910b، ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b، ACL Graph)
واجهة المستخدم: - واجهة المستخدم