تجلب أحدث تحسينات نماذجنا قدرات أقوى لبناء البرمجيات وترحيلها في لغات البرمجة منخفضة الموارد مثل COBOL وFortran وVisual Basic. تتمتع هذه اللغات بكمية أقل من التعليمات البرمجية والوثائق المتاحة للنماذج لتتعلم منها مقارنةً بلغات مثل Python وJavaScript، ومع ذلك فهي تدعم بنية تحتية حيوية وخدمات أساسية في جميع أنحاء العالم. COBOL يدعم(يفتح في نافذة جديدة) أكثر من 40% من أنظمة الخدمات المصرفية عبر الإنترنت، و80% من معاملات بطاقات الائتمان الشخصية، و95% من معاملات أجهزة الصراف الآلي، في حين تُستخدم لغة Fortran في التنبؤ بالطقس(يفتح في نافذة جديدة) و تحليل سلامة المفاعل النووي(يُفتح في نافذة جديدة). تحسين قدرة الذكاء الاصطناعي على العمل بهذه اللغات قد يساعد الفرق في صيانة وتحديث البرمجيات التي تعتمد عليها الخدمات الأساسية.
يستند هذا العمل إلى ملاحظات من المطورين وعملاء المؤسسات الذين أخبرونا بأن نماذج البرمجة كثيراً ما تواجه صعوبة في هذه اللغات. قد تكون صيانة هذا البرمجيات وتحديثه أمراً صعباً: فقد تكون الوثائق غير مكتملة، وقد يكون المطورون الأصليون قد تركوا الشركة، وقد توجد قواعد العمل المهمة فقط داخل الشيفرة البرمجية. وسواء كانت الفرق تعمل على إصلاح الأخطاء أو الترحيل إلى لغة أخرى، فإنها تحتاج إلى الحفاظ على السلوك الذي تعتمد عليه أنظمتها.
لقياس التقدم، طوّرنا تقييمين. يختبر MultiLangBench ما إذا كان بإمكان النموذج بناء محرك قواعد بيانات متوافق مع SQLite من الصفر عبر 20 لغة برمجة مختلفة. أما تقييمنا لترحيل COBOL فيختبر ما إذا كان بإمكان النموذج ترحيل البرامج القائمة إلى لغة أخرى مع الحفاظ على سلوكها. ويختبران معًا مهارتين متكاملتين: بناء برمجيات جديدة والحفاظ على ما تؤديه البرمجيات القائمة.
تُظهر أحدث نماذجنا تحسّنات كبيرة في كلا التقييمين، حيث تحقق دقة أعلى بكثير بتكلفة أقل.
على منصة MultiLangBench، يحقّق GPT‑6 Astra متوسط معدل نجاح في الاختبارات يبلغ 87.4% عبر 20 لغة برمجة، مرتفعًا من 26.8% لـ GPT‑5.6 Sol، مع تحسّن في كل لغة تم اختبارها. كما يتفوّق GPT‑6 Luna على GPT‑5.6 Sol، إذ يصل إلى 40.3% بتكلفة API مقدّرة أقل بنحو 78%.
في تقييمنا لترحيل COBOL، يحقق GPT‑6.1 Sol دقة بنسبة 86.6% عند جهد استدلال منخفض، مقارنة بـ 5.4% فقط لـ GPT‑5.6 Sol، مع تكلفة أقل بنسبة 39%. عند جهد استدلال أعلى، تصل الدقة إلى 97.9%، أي تقترب من تشبع التقييم.
تُظهر هذه النتائج مجتمعةً أن نماذجنا أصبحت أفضل بشكل ملحوظ في العمل مع مجموعة واسعة من لغات البرمجة، مع أن تصبح أيضاً أكثر كفاءة من حيث التكلفة.
1. بناء SQLite من الصفر (MultiLangBench)
يطلب MultiLangBench من النموذج بناء محرك قواعد بيانات متوافق مع SQLite بلغة برمجة محددة. ويجب على النموذج تنظيم قاعدة شيفرة برمجية، وإدارة الحالة، ومعالجة الأخطاء، وإضافة ميزات جديدة مع الحفاظ على الوظائف القائمة.
لمقارنة التنفيذات عبر اللغات، نستخدم ملفات قواعد البيانات كواجهة مشتركة. يتلقى البرنامج المرشح قاعدة بيانات أولية واستعلام SQL، ثم يُنتج قاعدة بيانات معدلة. نستخدم تنفيذ SQLite المرجعي للتحقق مما إذا كانت قاعدة البيانات الناتجة تحتوي على المحتويات المتوقعة. وهذا يتيح لنا تطبيق الاختبارات نفسها بغض النظر عن اللغة المستخدمة في بناء المحرك.
قمنا بتكييف اختبارات من مجموعة اختبارات SQLite الحالية لتتوافق مع هذا التنسيق. يقيس هذا التقييم مقدار الوظائف العاملة التي يمكن أن يبنيها النموذج خلال جلسة برمجة ممتدة، مع الإبلاغ عن كل من معدل نجاح الاختبارات وتكلفة واجهة برمجة التطبيقات.
عند أقصى جهد استدلال، يحقق GPT‑6 Astra متوسط معدل نجاح في الاختبارات قدره 87.4% عبر اللغات الـ20، مرتفعًا من 26.8% لـGPT‑5.6 Sol. وتمتد التحسينات إلى كل لغة تم اختبارها، بما في ذلك COBOL (من 10.9% إلى 72.1%)، وOCaml (من 25.6% إلى 85.8%)، وFortran (من 21.4% إلى 83.5%)، وVisual Basic (من 27.5% إلى 89.4%). تحقق Astra أكثر من 83% في 19 من أصل 20 لغة، مع بقاء COBOL الأصعب عند 72%.
يقدم GPT‑6 Luna خيارًا منخفض التكلفة يتفوق أيضًا على GPT‑5.6 Sol في كل اللغات التي تم اختبارها. عند أقصى جهد استدلالي، يصل إلى متوسط معدل نجاح في الاختبارات يبلغ 40.3%. تشمل المكاسب COBOL (من 10.9% إلى 17.1%)، وOCaml (من 25.6% إلى 34.1%)، وFortran (من 21.4% إلى 31.4%)، وVisual Basic (من 27.5% إلى 41.6%). تأتي هذه التحسينات بتكلفة API وسطرية مقدرة تبلغ $0.77 لكل عينة، مقارنة بـ$3.48 لـGPT‑5.6 Sol، أي أقل بنحو 78%.
نقوم بإتاحة إعداد تقييم MultiLangBench وحزمة الاختبارات على GitHub(يفتح في نافذة جديدة)إلى جانب النتائج الخاصة بكل لغة. يمكن للمطورين الاطلاع على ما تختبره عملية التقييم، ومراجعة الأداء في اللغات التي يستخدمونها، وتحديد الفجوات المهمة لأعمالهم الخاصة.
2. ترحيل قاعدة برمجية مكتوبة بلغة COBOL
تطلب تقييمنا الثاني من النماذج ترحيل برامج COBOL إلى C++ أو Java أو Kotlin أو Python أو Rust مع الحفاظ على ما يفعله كل برنامج.
يتطلب الترحيل الناجح فهمًا لكل من منطق الأعمال الخاص بالبرنامج وسلوك لغة COBOL المحدد. غالبًا ما تعالج برامج COBOL المعاملات المالية وسجلات الأعمال، حيث تعكس تفاصيل مثل قواعد التقريب ومعالجة السجلات المفقودة متطلبات العمل. على سبيل المثال، تتجاهل الحسابية ذات الفاصلة الثابتة في COBOL الأرقام العشرية الزائدة ما لم يُطلب التقريب بشكل صريح. أما إعادة الكتابة التي تقرب تلك القيم بدلًا من ذلك فقد تعمل دون أخطاء بينما تنتج نتائج مالية مختلفة.
لاختبار ما إذا كانت هذه السلوكيات محفوظة، نقيّم نماذجنا على اختبارات مخفية تتطلب تطابقاً بايت ببايت في المخرجات المرئية. لا تُعتبر عملية الترحيل ناجحة إلا إذا نجحت جميع الاختبارات. إن القدرات الحافظة للسلوك مثل هذه مفيدة للفرق التي تصون وتحدّث الأنظمة القديمة، مع أن تطبيقها على برمجيات الإنتاج لا يزال يتطلب مراجعة خبراء واختبارات مقابل قواعد العمل والاعتماديات الخاصة بالنظام.
في هذا التقييم، يحقق GPT‑6.1 Sol دقة تبلغ 86.6% عند جهد استدلال منخفض، مقارنةً بدقة GPT‑5.6 Sol البالغة 5.4% عند الإعداد نفسه وبكلفة API لا تتجاوز 61% فقط. عند جهد استدلال أعلى، تصل الدقة إلى 97.9%، مما يقرّب التقييم من التشبع. تُظهر نتائج هذا التقييم تقدماً نحو ترحيل أكواد أكثر دقة وبتكلفة معقولة للفرق التي تُحدّث البرمجيات التي تعتمد عليها أعمالها.
تطوير القدرات لبرمجيات المؤسسات
تساعدنا هذه التقييمات، إلى جانب الملاحظات المباشرة من المطورين والعملاء من المؤسسات، على إدراك أين تتحسن نماذجنا وأين لا تزال متقصرة.
هدفنا هو مساعدة النماذج على تطبيق مهارات هندسة البرمجيات عبر لغات أكثر: فهم المستودعات غير المألوفة، وتخطيط التغييرات، واستخدام أدوات البناء، وتشغيل الاختبارات، وتصحيح حالات الفشل.
يمكنك تجربة أحدث نماذجنا عبر الـ API في مهام البرمجة باللغات التي يستخدمها فريقك. تساعدنا ملاحظاتك حول ما ينجح، وأين تواجه النماذج صعوبات، وأي اللغات أو سير العمل ينبغي أن نركز عليه بعد ذلك في تشكيل طريقة تدريب النماذج وتقييمها لدعم البرمجيات التي تعتمد عليها بشكل أفضل.
