IT之家 بالنسبة للخبر الصادر في 9 أكتوبر، نشرت وسائل الإعلام التقنية NeoWin تغريدة أمس (8 أكتوبر) تفيد بأن مايكروسوفت تتعاون مع مجتمع المشاريع المفتوحة لـ llama.cpp وGGUF، ويندوز 11 ترقية نظام ويندوز ماجلا.دعم تجريبي للنماذج المُحسّنة مباشرة بصيغة GGUF وONNX، وإطلاق واجهة برمجة التطبيقات لـ Windows ML Runtime.
في فعاليات أكتوبر لـ Windows وSurface، قدمت مايكروسوفت أحدث التطورات في Windows ML. Windows ML هو إطار التفكير الذكي المحلي الخاص بمايكروسوفت لـ Windows 11، حيث يمكن للمطورين تشغيل نماذج الذكاء الاصطناعي على الجهاز، وبناء تطبيقات مثل إنشاء النصوص والتعرف على الصوت، وتقليل الاعتماد على التحسينات الخاصة بالأجهزة المحددة.
قالت مايكروسوفت إنه من خلال التعاون المجتمعي، يمكن للمطورين الآن استيراد نماذج GGUF من Hugging Face من خلال تكامل تجريبي لـ llama.cpp وتشغيلها مباشرة على النظام المحلي. وفيما يتعلق الأداء، تعاونت مايكروسوفت أيضًا مع شركة نيوماكس لتقديم الكودات للتحسينات الأدائية لـ llama.cpp والمنتجات ذات الصلة.
تضم Windows ML مسارًا تجريبيًا للاستدلال الأصلي لويندوز، يمكنه تشغيل نماذج من نوع ONNX وGGUF. الاسم الرسمي لهذا المسار هو Windows ML Runtime API، وتقول مايكروسوفت إنه يتمتع بأداء أعلى، وتكامل أكثر في النظام، وقدرة على التحكم بتفصيل أكبر.
ملاحظة من IT Home: GGUF هو تنسيق ملفات النماذج الذي يُستخدم بشكل شائع لتشغيل نماذج اللغات الكبيرة على النطاق المحلي. يمكن للمطورين الحصول على نماذج GGUF من منصات مثل Hugging Face، ويمكنهم استخدام أدوات مثل llama.cpp لتحميلها واستخدامها في الكمبيوتر الشخصي للتحليل.
وONNX هو تنسيق تبادل الشبكات العصبية المفتوح، يُستخدم لنقل نماذج الذكاء الاصطناعي بين إطارات وأجهزة مختلفة. ONNX Runtime هو بيئة التشغيل الشائعة له، ويمكنه دعم تطبيق استدلال النماذج على أجهزة Windows.
بدعم من واجهة برمجة تطوير Windows ML، أطلقت مايكروسوفت في نفس الوقت واجهة Text Generation وواجهة Speech Recognition، حيث يمكن للمطورين استخدام هاتين الواجهتين لبناء وظائف إنشاء النصوص والتعرف على الصوت.
قالت مايكروسوفت إن واجهة برمجة التطبيقات ONNX Runtime API لا تزال مدعومة بشكل كامل؛ وستُركز التحسينات المستقبلية لويندوز على واجهة برمجة التطبيقات Windows ML Runtime API. تحتوي كلتا واجهتي التشغيل على التصحيحات في الإصدار الحالي، ويمكن للمطورين اختيار توقيت الانتقال حسب درجة الاطلاع لديهم.